OpenAI знизить ціни на gpt 4, gpt-3.5-turbo та анонсує нові функції
13 червня компанія OpenAI оголосила про випуск нових версій gpt-3.5-turbo та gpt-4, а також новий інструмент — виклик функцій. У своєму блозі компанія пояснила, що виклик функцій дозволяє розробникам описувати функції програмування для gpt-3.5-turbo та GPT-4, а моделі створюють код для виконання цих функцій.
Також компанія оголосила про:
- оновлення версії gpt-4 та gpt-3.5-turbo;
-
нову контекстну версію 16k gpt-3.5-turbo (порівняно зі стандартною версією 4k);
-
зниження цін на embeddings моделі на 75%;
- 25%-ве зниження цін на вхідні токени для gpt-3.5-turbo.
Ця функція може допомогти у створенні чатботів, які відповідають на запитання, викликаючи зовнішні інструменти, перетворюють природну мову на запити до бази даних і витягують структуровані дані з тексту.
Окрім виклику функцій, OpenAI представляє різновид gpt-3.5-turbo із більшим контекстним вікном.
Контекстне вікно, яке вимірюється у токенах або необроблених бітах тексту — це кількість тексту, яку модель здатна проаналізувати і запамʼятати перед тим, як видати користувачеві відповідь. Що менше контекстне вікно має мовна модель, то швидше вона «забуде» ваші попередні запити, а отже, матиме ризик видати нерелевантний результат.
Новий gpt-3.5-turbo має вчетверо більше контекстне вікно (16 тис. токенів), ніж попередня версія. Його вартість — $0,003 за 1 тис. вхідних токенів (тобто токенів, поданих у модель) і $0,004за 1 тис. вихідних токенів ( токени, які створює модель).
У OpenAI обіцяють, що тепер gpt-3.5-turbo буде здатен завантажувати приблизно 20 сторінок тексту за один раз.
Також OpenAI знижує ціну на попередню версію gpt-3.5-turbo на 25%. Тепер розробники зможуть використовувати модель за $0,0015 за 1 тис. вхідних токенів і $0,002 за 1 тис вихідних токенів. Простими словами, це майже 700 сторінок тексту за $1.
