#NeuralNetwork #ChatGPT #мозг #цитатник #хабр
> У GPT-3 тоже есть свои заклинания. По умолчанию авторы ограничили возможность ИИ ругаться, оскорблять и, в целом, быть мудаком. Но если прочитать заклинание, написать определённый промт, то можно изменить личность ИИ, и снять все эти ограничение. Если вам интересно, то можете погуглить GPT DAN.
> Более того, вы можете с помощью промта менять личность GPT как угодно. Хотите, чтобы он был маленькой китайской школьницей, умирающей от лейкемии, — пожалуйста. Достаточно узнать нужное заклинание.
> Промт меняет алгоритм поведения. Хороший промт обеспечивает вам ПОЛНЫЙ контроль за тем, что делает ИИ.
> Так вот у меня для вас плохие новости. Мышление человека — это алгоритм. Я не буду останавливаться на этом подробнее, где-то там в первом абзаце я толковую книгу на эту тему упоминал.
> И алгоритм человека точно так же меняется при подборе правильного промта. Вот только раньше процесс поиска заклинания для управления другими был долгий и сложный. Все эти социальные инженерии, НЛП, манипуляции и прочее прочее прочее. А теперь поиском промта-для-управления-людьми займётся ИИ.
> И модели наподобие GPT ускорят этот процесс многократно, так как представляют идеальную экспериментальную базу для изменения личности. И найденные способы изменения личности рано или поздно будут обратно спроецированы на человека. И адаптированы для инструментов управления массами.
> Как может выглядеть промт для человека? Да как угодно. Это может быть абзац текста. Может быть, вы прямо сейчас его читаете. Это могут быть две картинки стоящие рядом. Это могут быть два внешне не связанных события в течение года.
> Да, абзац текста повлияет на вас незначительно. А вот выдача в тик-токе, которую вы наблюдаете с 5 до 35 лет, уже будет иметь почти полный контроль над вашими действиями. И я тут ничего против тик-тока не имею. Он классный. Просто объясняю, как это может работать.
> Но проблема не в заговоре ужасных корпораций.
> Как сегодня все могут генерить красивые ИИ картинки, так завтра все получат доступ к заклинаниям для управления людьми. И смогут писать свои заклинания. Все смогут контролировать всех.
> И вот на этом месте моя предсказательная способность ломается. Я даже близко не могу представить мир, который устроен таким образом.
