Компания Маска, занимающаяся искусственным интеллектом, xAI, официально опубликовала исходный код Grok-1

18 марта PANews сообщил, что компания Маска xAI, занимающаяся искусственным интеллектом, объявила, что откроет веса и архитектуру своей гибридной экспертной модели Grok-1 с 314 миллиардами параметров. Grok-1 — это большая языковая модель, обученная с нуля xAI с гибридной архитектурой экспертной модели, где на данном токене активно 25% веса. Веса базовой модели и сетевая архитектура теперь доступны под лицензией Apache 2.0. Предтренировочная фаза Grok-1 завершилась в октябре 2023 года и в настоящее время выпускается с необработанными контрольными точками базовой модели и без какой-либо тонкой настройки для какого-либо конкретного применения. Пользователи, заинтересованные в использовании модели, могут следовать руководству на github.com/xai-org/grok.