IBM이 최근 새로운 언어 모델 시리즈인 '그라나이트 3.1(Granite 3.1)'을 지난 18일 출시하고 기업용 인공지능(AI) 솔루션 시장에서의 경쟁력 강화에 나섰다.
이 모델은 이전 버전인 그라나이트 3.0의 기능과 성능을 대폭 향상시킨 모델로, 개선 및 추가 사항 및 새로운 기능과 검색증강생성(RAG) 및 확장 가능한 에이전트 AI 워크플로와 같은 필수적인 엔터프라이즈 사용 사례에서 성능, 정확성 및 책임을 강화하는 데 중점을 뒀으며, IBM의 통합 AI 플랫폼인 '왓슨x.ai(Watsonx.ai)'를 통해 제공된다.
가장 눈에 띄는 업그레이드는 128K로 컨텍스트 길이 확장이다. 이는 약 300페이지 분량의 텍스트를 한 번에 처리할 수 있는 수준으로, 코드베이스 검토, 법률 문서 분석, 대규모 데이터 세트 처리 등 기업에서 필요한 다양한 작업을 효율적으로 수행할 수 있게 해준다.
예를 들어, 기존 모델로는 긴 문서를 여러 부분으로 나누어 분석해야 했지만, 그라나이트 3.1은 문서 전체를 한 번에 이해하고 분석할 수 있어 시간과 비용을 절약할 수 있다.
새롭게 도입된 임베딩 모델 또한 주목할 만하다. 임베딩 모델은 텍스트나 이미지 같은 데이터를 컴퓨터가 이해할 수 있는 숫자 형태로 변환하는 모델이다. 이를 통해 검색, 문서 요약, 벡터 데이터베이스 관리 등 다양한 작업에서 뛰어난 성능을 발휘할 수 있다.
허깅 페이스 OpenLLM 리더보드 벤치마크에서 모델 성능 비교 (출처:IBM)
특히, 한국어를 비롯한 12개 언어를 지원하는 다국어 모델(다운)이 포함되어 있어 글로벌 기업 환경에서 더욱 유용하게 활용될 수 있다. IBM은 이러한 임베딩 모델의 상업적 데이터 사용을 보장함으로써 기업들이 안심하고 AI 애플리케이션을 구축할 수 있도록 지원한다.
AI 워크플로우에서 발생할 수 있는 허위(또는 편견) 정보 생성 문제를 해결하기 위한 노력도 돋보인다. IBM은 '그라나이트 가디언 3.1(Granite Guardian 3.1)'을 통해 AI 모델이 잘못된 정보를 생성하는 것을 감지하고 방지하는 기능을 추가했다. 이는 AI 모델이 특정 기능을 수행하도록 명령하는 프로세스에서 신뢰성과 투명성을 강화하는 데 도움을 준다.
그라나이트 3.1(다운)은 오픈 소스 라이선스(Apache 2.0)로 제공되어 다양한 플랫폼에서 활용될 수 있다. 예를 들어, 도커(Docker)를 통해 컨테이너화된 환경에서 모델을 실행하고 관리할 수 있으며, 허깅 페이스(Hugging Face)를 통해 다른 개발자들과 모델을 공유하고 협업할 수 있다. 레플리케이트(Replicate)를 이용하면 클라우드 환경에서 모델을 쉽게 배포하고 확장할 수 있다.
IBM은 삼성, 록히드 마틴(Lockheed Martin)과 같은 글로벌 기업 파트너들과 협력하여 그라나이트 3.1을 실제 산업 환경에 적용하고 있다. 예를 들어, 삼성전자는 그라나이트 3.1을 활용하여 고객 서비스 챗봇의 성능을 향상시키고 있으며, 록히드 마틴은 항공기 설계 및 유지보수에 AI 기술을 적용하는 방안을 모색하고 있다.
하지만 그라나이트 3.1은 아직 완벽한 모델은 아니다. 예를 들어, 다양한 언어와 문화적 맥락을 완벽하게 이해하는 데에는 한계가 있을 수 있다. 또한, AI 모델의 편향 및 차별 문제는 여전히 해결해야 할 과제로 남아 있다.
IBM은 내년 초 멀티모달 기능 추가를 포함한 추가 업그레이드를 계획 중이며, 이를 통해 AI의 실질적 활용 범위를 더욱 넓힐 예정이다. 그라나이트 3.1의 도입은 기업들이 더 효율적으로 AI 기술을 활용할 수 있도록 돕는 데 중요한 이정표가 될 것으로 예상된다.
출처 : https://www.aitimes.kr/news/articleView.html?idxno=33334
이 모델은 이전 버전인 그라나이트 3.0의 기능과 성능을 대폭 향상시킨 모델로, 개선 및 추가 사항 및 새로운 기능과 검색증강생성(RAG) 및 확장 가능한 에이전트 AI 워크플로와 같은 필수적인 엔터프라이즈 사용 사례에서 성능, 정확성 및 책임을 강화하는 데 중점을 뒀으며, IBM의 통합 AI 플랫폼인 '왓슨x.ai(Watsonx.ai)'를 통해 제공된다.
가장 눈에 띄는 업그레이드는 128K로 컨텍스트 길이 확장이다. 이는 약 300페이지 분량의 텍스트를 한 번에 처리할 수 있는 수준으로, 코드베이스 검토, 법률 문서 분석, 대규모 데이터 세트 처리 등 기업에서 필요한 다양한 작업을 효율적으로 수행할 수 있게 해준다.
예를 들어, 기존 모델로는 긴 문서를 여러 부분으로 나누어 분석해야 했지만, 그라나이트 3.1은 문서 전체를 한 번에 이해하고 분석할 수 있어 시간과 비용을 절약할 수 있다.
새롭게 도입된 임베딩 모델 또한 주목할 만하다. 임베딩 모델은 텍스트나 이미지 같은 데이터를 컴퓨터가 이해할 수 있는 숫자 형태로 변환하는 모델이다. 이를 통해 검색, 문서 요약, 벡터 데이터베이스 관리 등 다양한 작업에서 뛰어난 성능을 발휘할 수 있다.
특히, 한국어를 비롯한 12개 언어를 지원하는 다국어 모델(다운)이 포함되어 있어 글로벌 기업 환경에서 더욱 유용하게 활용될 수 있다. IBM은 이러한 임베딩 모델의 상업적 데이터 사용을 보장함으로써 기업들이 안심하고 AI 애플리케이션을 구축할 수 있도록 지원한다.
AI 워크플로우에서 발생할 수 있는 허위(또는 편견) 정보 생성 문제를 해결하기 위한 노력도 돋보인다. IBM은 '그라나이트 가디언 3.1(Granite Guardian 3.1)'을 통해 AI 모델이 잘못된 정보를 생성하는 것을 감지하고 방지하는 기능을 추가했다. 이는 AI 모델이 특정 기능을 수행하도록 명령하는 프로세스에서 신뢰성과 투명성을 강화하는 데 도움을 준다.
그라나이트 3.1(다운)은 오픈 소스 라이선스(Apache 2.0)로 제공되어 다양한 플랫폼에서 활용될 수 있다. 예를 들어, 도커(Docker)를 통해 컨테이너화된 환경에서 모델을 실행하고 관리할 수 있으며, 허깅 페이스(Hugging Face)를 통해 다른 개발자들과 모델을 공유하고 협업할 수 있다. 레플리케이트(Replicate)를 이용하면 클라우드 환경에서 모델을 쉽게 배포하고 확장할 수 있다.
IBM은 삼성, 록히드 마틴(Lockheed Martin)과 같은 글로벌 기업 파트너들과 협력하여 그라나이트 3.1을 실제 산업 환경에 적용하고 있다. 예를 들어, 삼성전자는 그라나이트 3.1을 활용하여 고객 서비스 챗봇의 성능을 향상시키고 있으며, 록히드 마틴은 항공기 설계 및 유지보수에 AI 기술을 적용하는 방안을 모색하고 있다.
하지만 그라나이트 3.1은 아직 완벽한 모델은 아니다. 예를 들어, 다양한 언어와 문화적 맥락을 완벽하게 이해하는 데에는 한계가 있을 수 있다. 또한, AI 모델의 편향 및 차별 문제는 여전히 해결해야 할 과제로 남아 있다.
IBM은 내년 초 멀티모달 기능 추가를 포함한 추가 업그레이드를 계획 중이며, 이를 통해 AI의 실질적 활용 범위를 더욱 넓힐 예정이다. 그라나이트 3.1의 도입은 기업들이 더 효율적으로 AI 기술을 활용할 수 있도록 돕는 데 중요한 이정표가 될 것으로 예상된다.
출처 : https://www.aitimes.kr/news/articleView.html?idxno=33334