В процессе обучения она сочла размышления «бессмысленной тратой ресурсов» и отключила их
Искусственный интеллект051 минуту назад
Стартап Thinking Machines Lab, основанный бывшими лидерами OpenAI, представил свою первую универсальную модель искусственного интеллекта под названием Inkling. Компания сделала её доступной: разработчики и организации могут загрузить модель, запускать её на своей инфраструктуре и дообучать для специфических задач.
По словам компании, Inkling не была создана с целью занимать ведущие позиции в известных тестах, а как удобная база для дальнейшей настройки. Разработчики утверждают, что по уровню возможностей она сопоставима с наиболее мощными открытыми моделями, которые на сегодняшний день выпускают китайские компании, однако главным её достоинством считается гибкость и возможность адаптации.
Inkling основана на архитектуре Mixture of Experts («смесь экспертов»), где во время выполнения каждой задачи активируется лишь часть параметров модели. Всего модель включает 975 миллиардов параметров, но одновременно использует порядка 41 миллиарда, что позволяет снизить вычислительные затраты без значительной потери качества. Она поддерживает контекст объемом до 1 миллиона токенов.
Модель обучалась с нуля для работы не только с текстом, но и с аудио и видео, а разработчики утверждают о развитых возможностях логического вывода и программирования. Для организаций Inkling доступна через собственную платформу Tinker, предназначенную для дообучения моделей на корпоративных данных. Одновременно компания анонсировала Inkling-Small — более компактную версию с 12 миллиардами активных параметров, которая отличается меньшими затратами на эксплуатацию и более высокой скоростью работы.
Thinking Machines Lab также сообщила, что в процессе разработки использовала саму Inkling для её дальнейшего дообучения и улучшения — всё чаще новые модели искусственного интеллекта применяются для оптимизации следующих версий самих себя.
Во время обучения разработчики столкнулись с необычным эффектом: Inkling самостоятельно прекратила формулировать промежуточные размышления на естественном языке, посчитав эту форму объяснений ненужными вычислительными затратами. Позже эту функцию вернули, чтобы сделать работу модели более понятной и прозрачной для пользователей.
Thinking Machines Lab была основана в феврале 2025 года бывшими сотрудниками OpenAI, включая экс-технического директора и временно исполняющую обязанности генерального директора компании Миру Мурати, одного из сооснователей OpenAI Джона Шульмана, который участвовал в создании ChatGPT, а также бывшего вице-президента OpenAI Лилиан Вэн, курировавшую исследования в области безопасности ИИ и робототехники.
В прошлом году стартап привлёк рекордные для посевного этапа инвестиции — 2 миллиарда долларов при оценке компании в 12 миллиардов долларов. До выхода Inkling компания уже представила платформу Tinker для настройки моделей, продемонстрировала систему голосового взаимодействия с ИИ и выпустила несколько собственных исследований в области машинного обучения.
Выпуск Inkling стал первым полноценным выходом Thinking Machines Lab на рынок больших языковых моделей. Компания последовательно продвигает идею, что технологии искусственного интеллекта не должны оставаться под контролем ограниченного числа разработчиков, а должны быть доступны для самостоятельного развертывания, настройки и обучения на собственных данных.
Darth SaharaИсточники:wiredsilicon.co.ukИскусственный интеллект0Искусственный интеллектOpenAILLMThinking Machines LabМира Мурати51 минуту назад
Источник