OpenAI DevDay 행사에서 새로운 GPT-4 Turbo 모델 소개

현지 시각 11월 6일 샌프란시스코에서 열린 OpenAI의 DevDay 행사에서는 많은 새로운 추가 사항들과 플랫폼 전반에 걸쳐 가격 인하가 발표되었습니다. 특히 많은 분들이 관심을 가지는 새로운 GPT-4 Turbo 모델도 소개되었습니다. 이 외에도 개발자들이 자체적으로 목표를 가진 보조 AI 앱을 구축할 수 있는 새로운 Assistants API, 이미지 생성(DALL·E 3), 음성 변환(TTS)까지 포함된 멀티모달 기능까지 다양한 것들이 포함된 행사가 열렸습니다. 이와 관련하에 간략히 아래에서 알아봅니다.

출처. 공식 OpenAI Blog 웹사이트

새로운 GPT-4 Turbo 모델 그리고 128K 컨텍스트

GPT-4가 나오고 나서 기존 3.5 Turbe와 비교했을 때 훨씬 정확하고  많은 부분들에 있어서 뛰어난 능력을 보여주었습니다. 이번에 소개된 GPT-4 Turbo 역시 기존 모델보다 훨씬 더 강력한 모델로써 128K 컨텍스트 윈도우를 지원한다고 합니다. 이는 무려 300페이지가 넘는 텍스트를 한 번의 프롬프트에 담을 수 있다는데요 ~ 성능은 높아졌지만 최적화되어 토큰 입력 가격이 기존 대비 3배나 더 저렴하고, 출력 토큰 가격은 2배 저렴해졌다고 소개했습니다.


이 외에도 다음과 같은 개선 사항 등이 공개되었습니다.

1. 함수 호출과 명령 수행 개선

함수 호출 기능은 앱의 함수나 외부 API를 모델에 설명하고, 모델이 JSON 객체를 출력하도록 해서 그 함수들을 호출하게 해주죠. 이제 단일 메시지로 여러 함수를 호출할 수 있게 되었습니다.

2. 지시 사항 따르기와 JSON 모드 개선

지시 사항을 따르는 능력이 향상되었으며, 새로운 JSON 모드를 통해 유효한 JSON만을 응답하도록 할 수 있습니다.

3. 재현 가능한 출력과 로그 확률

새로운 seed 파라미터를 통해 모델이 일관된 완성을 반환하게 할 수 있고, 로그 확률 기능도 곧 제공될 예정입니다.

4. 업데이트된 GPT-3.5 Turbo

GPT-3.5 Turbo도 16K 컨텍스트 윈도우를 기본으로 지원하는 새로운 버전이 출시되었습니다.

마치면서

이번 발표 내용 중에서 특히 GPT-4 Turbo 모델의 128K 컨텍스트 윈도우가 제공하는 확장된 정보 처리 능력이 특히 매력적으로 다가옵니다. 복잡한 작업을 수행할 때 이러한 큰 컨텍스트 윈도우가 얼마나 중요한지 감안하면, 확실히 가장 나은 업그레이드라고 볼 수 있죠.

개인적인 바람으로는 GPT API에도 더 많은 컨텍스트를 담으면 좋겠습니다. API의 활용성이 훨씬 더 늘어날 것 같다는 생각입니다~