Нажмите "Enter" для перехода к содержанию

Новый ИИ думает перед ответом, показывает свою работу и просит оценить результаты

Исследователи из Стэнфорда и группа «Notbad AI» объединились для создания модели ИИ, которая учится рассуждения и начинает задумывается перед ответом, показывает показывает своей работы, интересуется мнением и просит пользователей оценить её результаты. Этот подход названный Quiet-самоучкой, имитирует человеческий внутренний монолог и может привести к более продуманным и точным ответам от ИИ.

Подход к обучению ИИ основанный на рассуждении

Алгоритм самоучки разработали в 2022 году, позволил модели ИИ научиться самостоятельному рассуждению. Вместо того чтобы мгновенно выдавать ответы, модель самоучки делает паузу, чтобы подумать и обработать информацию. Такой процесс похож на внутренний монолог человека, который обычно происходит перед ответом или выражения своей мысли.

Если ИИ сможет самообучаться и делаться умнее через процесс внутреннего монолога, это приведёт к созданию более сложных и эффективных систем ИИ, способные выдавать информативные и полезными ответы которые можно использовать в более в широком диапазоне, от автоматизированных систем обслуживания клиентов до комплексных аналитических инструментов.

Оценка пользователей после использования Quiet-STaR

Quiet-STaR был запрограммирован для демонстрации своего процесса рассуждения перед тем, как выдать ответы. Затем пользователи модели могли выбрать, какой ответ они считают наиболее точным. Этот подход привел к тому, что модель была точной в 47,2% случаев, что является значительным улучшением по сравнению с 36,3% точности без дополнительного обучения рассуждениям.

К сожалению модель Quiet-STaR продемонстрировала не самые высокие результаты по математике, ответив правильно только на 10,9% вопросов. Но эти показатели по сравнению с 5,9% до обучения, означают, что модель удвоила свои математические способности.

ИИ GTP–4 стремится к самостоятельности и контролю