Ви, мабуть, звикли думати про штучний інтелект як про чат-бота, який пише для вас вірші або підсумовує електронні листи, але з'явився новий тренд, який повністю обходить слова. TypeSafe AI запустив Jev , інструмент, який ламає стереотипи, оскільки він не пише жодного речення; його місія полягає в тому, щоб приймати технічні та ймовірнісні рішення, які будь-яка комп'ютерна програма може миттєво обробити без жодних проблем.
Уявіть, що у вас є система, яка обробляє тисячі запитів, і вам не потрібен штучний інтелект, щоб пояснити, чому заявка термінова; вам просто потрібно, щоб він відповів «терміново: так». Jev позиціонує себе саме там, у цій проміжку між жорстким кодом та повільними мовними моделями, пропонуючи те, що вони називають моделями Системи Один , натхненними психологією швидкого, інтуїтивного мислення Деніела Канемана.
Що ж таке штучний інтелект Джева?
На відміну від таких гігантів, як GPT або Claude, які випускають токени один за одним для побудови абзацу, Jev працює як виклик розумної функції . Ви передаєте йому стан (який може бути JSON, текстом або списком) та набір попередньо визначених запитань, а модель повертає структуровані значення. Це означає, що немає помилок типу чи проблем з форматуванням, оскільки відповідь пов'язана з опціями, які ви вибрали раніше.
Архітектура цієї моделі використовує спеціальний метод навчання під назвою Reinforcement Learning for Calibrated Decisions (RLCD) . Мета полягає не в тому, щоб штучний інтелект був симпатичним чи переконливим, а в тому, щоб його ймовірності були чесними та каліброваними. Якщо Джев каже, що він на 90% впевнений у відповіді, ця цифра повинна відображати фактичну точність — що є надзвичайно важливим, коли ви хочете, щоб програмне забезпечення діяло автономно, без необхідності переглядати кожен крок людиною.
Три фундаментальні інструменти: примітиви
Щоб зробити все простим та ефективним, API Джева базується на трьох типах питань, що дозволяє йому задовольнити практично будь-які потреби класифікації:
- Вибір: Він дозволяє вибрати один варіант з групи, що містить до 255 можливих варіантів. Він не лише надає вам виграшний варіант, але й карту ймовірностей усіх варіантів та коефіцієнт достовірності. Він включає опцію «інше», щоб запобігти примусовому виникненню неправильної відповіді моделлю.
- Оцінка: Оцінюйте щось за градуйованою шкалою (від 2 до 10 рівнів). Цікаво, що вона повертає десяткові значення (наприклад, 1.4), що дозволяє вам фіксувати... нюанси між категоріями яке ціле число ігноруватиме.
- Noul (булеве обчислення): Це спрощена версія оператора «так» чи «ні», що повертає ймовірність від 0 до 1.
Найпотужніша функція полягає в тому, що Джев може відповісти на всі ці запитання за один паралельний крок . Якщо вам потрібно знати категорію повідомлення, рівень гніву клієнта та чи запитує він повернення коштів, Джев надасть вам усі три відповіді одночасно, тому додавання додаткових запитань майже не впливає на час відповіді.
Продуктивність, вартість та дрібний шрифт
Дивлячись на цифри, TypeSafe AI може похвалитися вражаючою швидкістю, із затримками від 70 до 500 мілісекунд . Порівняно з Frontier LLM, яким може знадобитися кілька секунд для створення відповіді, Jev абсурдно швидкий. Крім того, ціна є ключовою перевагою: він коштує лише $0,042 за мільйон вхідних токенів , а вихідні дані абсолютно безкоштовні, оскільки вони не генерують новий текст.
Однак до цих цифр слід ставитися з певною часткою скептицизму. Багато бенчмарків були виконані самою командою TypeSafe, що може внести певну упередженість. Тим не менш, обіцянка нульових помилок схеми є відчутною: математично неможливо, щоб Jev повернув формат, який ви не визначили, що усуває необхідність складних перевірок у коді.
Де сяє ШІ Джева, а де він зазнає невдачі?
Джев – король, коли вам доводиться приймати повторювані, масові рішення щодо неструктурованих даних. Він ідеально підходить для маршрутизації лідів , модерації контенту, сортування технічної підтримки або навіть створення бар'єрів для моніторингу результатів інших, більших моделей штучного інтелекту. Він також дуже корисний у веб-навігації, де може вирішувати, на який елемент сторінки натискати, без потреби в описі екрана.
Однак, не намагайтеся використовувати його для всього. Jev не підходить для спілкування в чаті, програмування чи пояснення своїх міркувань. Він має чіткі обмеження щодо математики та підрахунку символів, а також погано обробляє дати чи шістнадцяткові значення. Крім того, йому бракує знань про світ; він знає лише те, що ви вводите в статус запиту. Якщо вам потрібні складні міркування або генерація креативності, вам слід дотримуватися моделі System 2, такої як Claude або GPT.
Інтеграція в екосистему розробки
Для програмістів інтеграція досить проста. Офіційні SDK існують для JavaScript, TypeScript та Python , і хоча для PHP його немає, достатньо простого POST-запиту. Крім того, Jev вже доступний у Vercel AI Gateway, що значно спрощує керування ключами та виставлення рахунків, якщо ви вже використовуєте це середовище.
Дуже розумний шаблон використання Jev полягає у створенні каскаду рішень . Спочатку Jev фільтрує та класифікує запит дешево та швидко; потім детермінований код обробляє простіші випадки, і лише у випадках, коли Jev вказує на низьку достовірність, запит передається до дорогої моделі міркування або оператора-людини. Це оптимізує бюджет і зменшує загальну затримку системи.
Цей інструмент переосмислює взаємозв'язок між штучним інтелектом та програмним забезпеченням, роблячи інтелект компонентом інфраструктури , а не посередником. Виключаючи генерацію тексту та зосереджуючись на ймовірнісному калібруванні, Jev дозволяє машинам приймати швидкі та надійні рішення з незначними витратами, відкриваючи шлях до автоматизації, яка раніше була надмірно дорогою або повільною.