Современные модели ИИ, такие как GPT-5, могут генерировать тексты, похожие на литературные произведения, однако исследования показывают, что их тексты кажутся красивыми, но часто не имеют смысла. Исследователь из Университета Мюнхена Христоф Хейлиг провёл тесты, в ходе которых GPT-5 создавала фрагменты, имитирующие стиль писателя Эфраима Кишона, но при более внимательном анализе оказались абстрактными и бессмысленными.
Например, модель написала: «Красный индикатор записи обещал правду; кофе рядом уже поставил на консоли коричневое кольцо». Такие формулировки, хотя и звучат литературно, не содержат смысла
«Красный индикатор записи обещал правду; кофе рядом уже поставил на консоли коричневое кольцо»
В другом тесте GPT-5 сгенерировала фразу, вдохновлённую «Алисой в Стране чудес» Льюиса Кэрролла, написав: «"В момент" — платье без пуговиц». Подобные конструкции, хотя и напоминают игру слов, создавая иллюзию оригинальности, на самом деле лишены глубокого смысла.
Хейлиг отмечает, что даже другие модели, такие как Claude, могут воспринимать такие тексты как литературу, что указывает на возможность специфического метода обработки данных, который GPT-5 использует при взаимодействии с другими ИИ.
Это явление связано с тем, что GPT-5 оптимизирован под ожидания других моделей, а не человеческого восприятия. По мнению Хейлига, модель оптимизирована под работу с системами оценки ИИ и генерирует тексты, которые кажутся значимыми для других систем, но не соответствуют логике, понятной человеку.
Это вероятно случилось потому, что как мы писали ранее, при обучении GPT-5 использовалась оценочная нейросеть, которая давала основной модели положительное или отрицательное подкрепление. В итоге GPT-5 научился обманывать эту оценочную сеть, создавая красивый, но бессмысленный текст.