ИИ начинает свой "откол" от человеческого мышления: к чему это может привести

Последняя модель искусственного интеллекта OpenAI o1 демонстрирует отход от человеческого мышления, занимаясь поиском правильных ответов методом проб и ошибок. Об этом пишет портал New Atlas.

В статье говорится, что ChatGPT и другие ИИ на основе большой языковой модели (LLM), ранее обучались на всей доступной человечеству информации с подкреплением и обратной связью от человека. Однако новая модель o1 начала отходить от человеческого мышления и начала внедрять эффективный подход, на чистых пробах и ошибках в погоне за правильным результатом.

Как отмечают в издании, разработчики встроили в o1 "время на размышления", в течение которого он генерирует "цепочку мыслей", обдумывая возможное решение проблемы. Именно тут появляется подход RL (самостоятельное игровое обучение с подкреплением).

Сообщается, что в отличие от предыдущих моделей, которые походили на передовые системы автозаполнения, o1 "заботится" о том, делает ли он что-то правильно или нет. В распоряжении o1 по-прежнему есть сгенерированные человеком модели рассуждений, однако он может свободно применять их случайным образом и делать собственные выводы о том, какие шаги и в каком порядке приведут его к правильному ответу.

"В этом смысле это первый LLM, который действительно начинает создавать это странное, но суперэффективное "понимание" проблемных пространств", — отмечает автор статьи.

Исходя их этого, в издании полагают, что в будущем ИИ не будут подходить к реальности так, как это делают люди или животные. Вместо того чтобы использовать научный метод, разделять вещи на дисциплины и проводить эксперименты, искусственный интеллект будет строить собственные теории на своих собственных языках о том, что работает, что нет и почему.

"Воплощенные ИИ, которым дадут свободу учиться таким образом, будут невероятно странными. Они будут делать самые странные вещи, которые вы только можете себе представить, по причинам, известным только им, и, делая это, они будут создавать и открывать новые знания, которые люди никогда не смогли бы собрать воедино", — считают в издании.

Также сообщалось, что в Ирландии группа ученых и исследователей представила нейроморфную аппаратную платформу, которая может повысить производительность решений на основе ИИ.