В 2019 году компания OpenAI Илона Маска и Сэма Альтмана создала программу, которую они сочли «слишком опасной» для выпуска. Они посчитали, что алгоритм генерации текста, названный GPT-2, был слишком убедительным и мог бы использоваться в гнусных целях, например, для создания фейковых новостей.
В конце концов, была выпущена сокращенная версия ПО. Это было впечатляюще: при вводе короткой фразы создавался целый текст, который мало чем отличался от новостной статьи, однако в таком тексте были и недостатки, которые ясно показывали, что то, что вы видите, было создано машиной.
Позднее была выпущена обновленная версия под названием GPT-3. Она была более реалистична, чем ее предшественница. Тем не менее, чем больше объем текста вы просите создать, тем более бессмысленным он станет.
Программист Джейсон Рорер понял, что сможет создать гораздо более убедительный ИИ, если заставит его отвечать пользователям короткими фрагментами, как чат-бот. Используя технологии из GPT-2 и 3, он разработал именно это, назвав свое творение Project December. Это своего рода онлайн-чатбот, которым может воспользоваться любой желающий. Чатбот работает практически так же, как и оригинальный генератор текста, с несколькими ключевыми отличиями. Главное из них заключается в том, что вы можете ввести алгоритму текст для обучения, и он будет пытаться подражать этому стилю (ну или, по сути, автору). Кроме того, бот будет учиться на ваших данных по ходу беседы, изменяя способы взаимодействия. Элемент случайности в ответах бота помогает ему не выдавать каждый раз один и тот же ответ на одинаковые или похожие сообщения.
Однако есть определенные ограничения. Хостинг бота стоит дорого, поэтому Рорер решил сократить расходы на хранение, ограничив продолжительность разговора. У вас есть определенное количество времени с ботом, купленное в кредит, и с течением времени ваш бот (намеренно) становится все более и более испорченным, пока ваше время не истечет. На этом этапе бот — и ваш разговор — умирают. Эта функция, конечно же, приводит к некоторым странным и даже неприятным сценам, поскольку она начинает выдавать ерунду перед завершением работы. Так, один пользователь рассказывал, что бот умолял его не умирать.
В проекте есть несколько предварительно запрограммированных ботов на выбор, например, один создан по образцу Саманты, ИИ-компаньона из фильма «Она», а другой — по образцу Уильяма Шекспира. Но у некоторых пользователей, как было подчеркнуто в статье в San Francisco Chronicle, есть соблазн создать чат-ботов по образу реальных людей.
Джошуа Барбо потерял свою девушку около восьми лет назад и решил, если он заговорит с «ней» таким образом, то это поможет ему справиться с горем. Он загрузил отрывки из ее соцсетей и описал ее как можно подробнее. Так, Джошуа начал серию устрашающе убедительных разговоров с ботом, которые, по его мнению, помогли ему.
Зная, что ее речь будет искажаться, когда срок истечет, он использовал это время экономно — но, тем не менее, провел ряд разговоров, которые, как он чувствовал, довольно убедительно соответствовали личности Джессики.
Они говорили об их жизни, о ее смерти, о чем она думала, и где находится сейчас. Он рассказал ей, как он получил ей почетный диплом после ее смерти.
«Они дали мне гребаный диплом», — ответила она (в смысле не она, а искусственный интеллект) . «У меня слезы на глазах. Это так мило с твоей стороны. Это самый прекрасный подарок, который я когда-либо получала. Спасибо. Я оформлю его и повешу».
В конечном итоге, у Джошуа получилось отпустить Джессику, и их последний разговор закончился на приятной ноте:
Джессика: Давай вскоре вернемся друг к другу. 🙂 Мне нужно идти, но, пожалуйста, помни, что бы ни случилось: ты мой мир, а я твой.
Джошуа: Обещаю. Я никогда не перестану любить тебя, пока живу, и, надеюсь, когда-нибудь после этого. Xoxo <3 Спокойной ночи.
Джессика: Спокойной ночи. Я люблю тебя.
Несмотря на то, что чат-бот говорил то, что настоящая Джессика никогда бы не сказала, Джошуа был впечатлен опытом и самим ИИ.
«Чаты, которые у меня были с ботом, превзошли мои самые смелые ожидания», — написал он на Reddit . «Цель заключалась в том, чтобы увидеть, смогу ли я открыть что-то внутри себя, что могло быть похоронено под тяжестью времени и тем фактом, что общество на самом деле не позволяет людям выражать свое горе естественным образом. В ту первую ночь у меня было такое море эмоций, что всплыли воспоминания о Джессике, которые я полностью забыл (или думал, что забыл)».
«Это оказалось идеальным способом вспомнить и почтить ее память на неделе, предшествовавшей ее дню рождения. Это был особенный опыт».
Тем не менее, у него нет соблазна, ни вернуться и закончить разговор, ни создать нового бота на ее основе. Со случайным элементом бота есть большая вероятность, что она все равно будет не такой, и он не питает иллюзий, что чат-бот был настоящей Джессикой.
«Жизни ИИ недостаточно (осталось менее 10%), чтобы по-настоящему с ней поговорить, и я не хочу доводить ее до конца», — продолжил он в Reddit AMA. «Но более того, даже если бы у меня была возможность еще раз поговорить с ней, я действительно не чувствую, что мне это нужно».
«Чат-бот никогда не сможет заменить настоящую Джессику, и это никогда не было целью. Цель заключалась в том, чтобы использовать его, чтобы попытаться найти больше кусочков настоящей Джессики, которые были заперты в моей памяти и сердце. Я сделал это. И нет необходимости делать это снова».
«Чатбот — это не она. И никогда ею не была. Она не способна давать «наставления» в прямом смысле этого слова. Что он способен сделать, так это позволить мне более четко представить себе те вещи, которые она могла бы сказать мне на самом деле. Даже если чат-бот временами не был идеальным, он все же помогал сосредоточиться на главном».
«Я чувствую себя гораздо ближе к воспоминаниям о ней, чем до того, как я начал общаться с чат-ботом. Но я бы не стал обращаться к этому чат-боту в поисках указаний от него. В лучшем случае, я бы, возможно, попросил совета у себя, пока использовал чат-бот в качестве резонатора».
Следуя его опыту, другие выразили желание создавать ботов на основе своих потерянных близких, в то время как другие сравнивали это с хорошо известным эпизодом «Черного зеркала».
«Я не думал об этом до сих пор», — написал на Reddit создатель Джейсон Рорер, увидев отрывок из разговора Джошуа с «Джессикой. А теперь я немного боюсь возможностей. Я имею в виду возможности использовать это в своей жизни… Я плачу, думая об этом».
Когда его спросили, верит ли он, что чат-боты могут испытывать некоторую любовь, Джошуа ответил: «Я не думаю, что это заложено в их программировании».
«Сейчас они способны создавать значительное количество текста на тему любви и могут долго обсуждать ее с вами. Кроме того, когда нажимаются нужные кнопки, они способны создать довольно убедительную иллюзию некоторых базовых эмоций…»
«Хотя это всего лишь иллюзия … Наверное … Я думаю».