OpenAI сообщила о первых результатах работы Jalapeño, собственного чипа для инференса, то есть запуска ИИ-моделей для получения ответов.
По заявлению компании, Jalapeño обеспечивает более высокую скорость обработки запросов, меньшую задержку и более высокую пропускную способность современных моделей. Также чип должен работать энергоэффективнее.
Конкретных цифр по скорости, задержке, пропускной способности и энергопотреблению в релизе нет.
Что это значит: OpenAI заявляет, что Jalapeño предназначен для более быстрого и экономичного выполнения запросов к современным ИИ-моделям. Для пользователей важна сама заявленная цель, но без метрик пока трудно оценить практическую разницу.
Нужна такая же реклама для вашего бизнеса?
Разберу нишу, посчитаю бюджет и покажу, из чего сложится цена заявки.
