요즘은 chatGPT를 따라잡기 위해 분주한 구글을 앞다투어 버전을 업그레이드하면서 기능을 업데이트하고 있습니다. Gemini Advanced 에 적용된 1.0 Ultra보다 더 좋은 성능으로 나타난 Gemini 1.5 Pro는 얼마나 바뀌었는 지 보고 사용방법에 대해 알아보시죠!
1. 대폭 향상된 컨텍스트 처리
Gemini 1.5 Pro는 입력의 일부로 최대 1백만 개의 토큰(대략 단어에 해당)을 처리할 수 있습니다. 이는 Gemini 1.0의 기능보다 훨씬 더 큰 규모입니다. 이렇게 상상해 보세요: Gemini 1.0이 한 가지 주제를 이해하기 위해 책 한 권을 읽을 수 있었다면, Gemini 1.5 Pro는 여러 권의 책을 읽으며 더 넓고 깊은 이해를 얻을 수 있습니다.
2. 코딩 능력 향상
코딩에 LLM을 사용하신다면 Gemini 1.5 Pro가 Gemini 1.5 Pro는 물론이고 Gemini 1.0 Ultra보다 훨씬 더 나은 코딩 작업을 할 수 있다는 것이 기쁠거에요. 구글의 기술 문서에 따르면 다음과 같이 나와 있습니다.
Gemini 1.5 Pro는 웹 유출을 방지하기 위해 만든 내부 보류 코드 생성 테스트 세트인 Natural2Code의 Gemini 1.0 Ultra를 능가하는 현재까지 코드 성능이 가장 우수한 모델입니다.
코딩에 LLM을 사용하는 사람에게는 큰 의미가 있습니다. Gemini Advanced도 프로그래밍에 능숙하지만 더 나은 기능을 제공할 수 있으나 많은 사람들은 chatGPT 아직도 많이 사용하고 있습니다.
3. 방대한 양의 분석
컨텍스트 창이 커진 덕분에 Gemini 1.5 Pro는 사용자가 제공하는 정보를 더 많이 이해할 수 있습니다. 이는 컨텍스트 창이 커진다는 가정 하에 이루어진 것이지만, LLM이 더 큰 입력에 대해 작은 입력과 동일한 수준의 품질로 응답할 수 있다고 보장할 수는 없습니다. 구글은 제미니에 10만 줄 이상의 코드를 입력하는 프로그램에 대한 도움을 요청하여 이를 시연함으로써 짧은 입력과 마찬가지로 큰 입력에 대한 응답도 가능하다는 것을 사람들에게 확신시켰습니다.
이를 통해 구글은 위의 코드베이스에서 80만 개 이상의 토큰을 사용하여 한 번에 많은 양의 입력에 대해 합리적으로 수정, 제안 및 도움을 제공할 수 있다고 말합니다. Gemini 1.5 Pro는 성능 저하 없이 이 컨텍스트 길이의 한계를 수백만 토큰으로 크게 확장하여 훨씬 더 큰 입력을 처리할 수 있게 되었습니다. 20만 개의 토큰 컨텍스트 창을 가진 클로드 2.1과 비교했을 때, Gemini 1.5 Pro는 20만 개의 토큰에서 100%의 리콜을 달성하여 클로드 2.1의 98%를 뛰어넘습니다. 이 100% 리콜은 53만 토큰까지 유지되며, 100만 토큰에서는 99.7%의 리콜을 달성합니다. 1백만 토큰에서 1천만 토큰으로 증가하면 99.2%의 리콜을 유지합니다.
4. 대화에서 학습 가능
특히 프롬프트에 대한 답을 나타내는 것처럼 보이는 데이터에 대해 학습되지 않은 경우 LLM이 모든 것을 처리할 수 있는 것은 아닙니다. 그렇기 때문에 작은 언어의 경우 LLM이 그다지 강력하지 않습니다. LLM에 언어를 가르치려고 해도 문맥 창을 채우거나 적응하지 못할 가능성이 높습니다. Google의 연구원들은 전 세계적으로 200명 미만의 사용자가 사용하는 언어인 문법 매뉴얼을 제공함으로써 Gemini 1.5 Pro Kalamang을 가르쳤습니다. 그 결과 이 모델은 “사람이 같은 내용을 배우는 것과 비슷한 수준으로 영어를 칼라망어로 번역할 수 있었다”고 합니다.
완벽하지는 않지만, 이는 Google의 LLM이 이전에 알지 못했던 더 많은 정보를 제공하여 나머지 대화에 적용할 수 있다는 것을 의미합니다.
5. 훨씬 빠른 추론 및 응답 속도
Gemini 1.5 Pro는 “Mixture of Experts(MOE),전문가 혼합”이라는 특수 아키텍처를 사용합니다. 이를 통해 모델의 정보 학습 능력이 향상되고 계산 효율성이 높아집니다. 실제로는 응답 속도가 빨라지고 대량의 처리 능력에 대한 의존도가 줄어듭니다.
Gemini 1.5 Pro 관련 페이지
구글 블로그 : https://blog.google/intl/ko-kr/products/explore-get-answers/google-gemini-next-generation-model-february-2024-kr/
구글 개발자 블로그 : https://developers.googleblog.com/2024/02/gemini-15-available-for-private-preview-in-google-ai-studio.html
유튜브 영상 : https://www.youtube.com/watch?v=wa0MT8OwHuk
Gemini 1.5 사용방법
현재는 개발자버전으로 공개된 상태입니다. 구글 AI Studio 등록페이지를 통해 버전 1.5가 나오면 테스트할 수 있습니다.
마치며
chatGPT에 뺏긴 패권을 가지고 오기 위해 구글은 무던한 노력을 하고 있습니다. 새로운 아키텍처와 인프라 혁신을 통해 효율성을 높인 이 모델은 일부 그룹에 조기 액세스를 제공하여 다양한 산업에 혁신을 일으킬 예정이며, 향후 광범위한 활용과 혜택을 약속하고 있습니다.