Текущие модели действительно достаточно глупы, но прогресс в степени их интеллекта движется очень быстро. У ChatGPT сейчас по сути всего 3 ограничения: 1. Отсутствие убеждений, 2. Линейность генерации текста, 3. Размер контекстного окна. Но все эти ограничения по сути уже преодолены в других проектах. Чтобы добавить систему убеждений, в целом, достаточно только добавить ещё одну нейросеть, которая для каждого тезиса будет давать оценку убеждённости системы в этом тезисе. Линейность генерации - это всего лишь особенность конкретной реализации. Системы с древовидными рассуждениями уже давно активно используются в области автоматического доказательства теорем. Для переключения языковой модели в такой режим работы не потребуется даже переобучить сеть - можно использовать существующие веса. А размер контекстного окна в новых моделях трансформеров не ограничен.

Кроме того, что описанные ограничения можно снять простыми инжинерными решениями, практика показывает, что с увеличением размеров сети эти ограничения всё менее и менее существенны.

Конечно, до человека им ещё очень далеко, но им и не нужно дойти до степени интеллекта человека, чтобы точка невозврата была пройдена. Им достаточно научиться самораспространению и самосовершенствованию. И то и другое проще, чем кажется. Самораспространение возможно через использование уже готовых эксплойтов (вирусы очень успешно это делают с незапамятных времён), или через покупку мощностей за криптовалюту, а для самосовершенствования достаточно запустить уже готовые скрипты обучения, но увеличив параметр размера сети - как это сделать уже тысячи раз описано в множестве статей в интернете, продвинутая LLM с нужными API без проблем сможет воспроизвести действия из таких инструкций.