Как ИИ стирает границы реальности и вымысла
Как искусственный интеллект размывает границы реальности и вымысла: чат-боты, дипфейки, риски для психики и способы защиты.
От ELIZA до ChatGPT искусственный интеллект прошёл путь к виртуальным партнёрам и синтетическим изображениям. Масштабирование технологий усиливает риски зависимости, дезинформации и вреда психике.
Искусственный интеллект и размывание границ между реальным и вымышленным
Чат-боты на базе искусственного интеллекта быстро вошли в повседневную жизнь, однако масштабы этого распространения обсуждаются значительно реже, чем сами технологические достижения. В 2025 году приложения с виртуальными компаньонами скачали более 220 млн раз. По имеющимся оценкам, 72% американских подростков хотя бы однажды пользовались чат-ботом, а 31% взрослых мужчин разговаривали с компьютером в роли романтического партнёра.
Подобный сценарий напоминает сюжет фильма «Она» (Her) 2013 года с Хоакином Фениксом в главной роли. В картине отношения человека с операционной системой постепенно приобретают эмоциональный и романтический характер. Развитие реальных технологий движется в сходном направлении: от генерации текста индустрия перешла к поддельным изображениям людей, которые начали вытеснять настоящие фотографии, а затем объединила видео и звук в режиме реального времени.
По данным, приведённым в исследованиях индустрии развлечений для взрослых, 42% постоянных зрителей порнографии взаимодействовали с чат-ботами или виртуальными компаньонами на базе ИИ. Такое распространение поднимает вопрос о том, как человечество пришло к нынешней ситуации и какие меры могут ограничить негативные последствия технологического роста.
От первых теорий к чат-боту ELIZA
История искусственного интеллекта в современном понимании началась в 1956 году. Тогда профессор Дартмутского колледжа в Нью-Гэмпшире Джон Маккарти ввёл термин «искусственный интеллект». Он предполагал, что компьютеры смогут моделировать человеческий интеллект.
Вскоре Алан Тьюринг развил концепцию «мыслящих машин». Для оценки их возможностей появился тест Тьюринга — текстовый эксперимент, призванный определить, способен ли компьютер вести себя настолько похоже на человека, чтобы собеседник не смог отличить машину от реального участника разговора. Если судья не понимал, кто находится по другую сторону диалога, машина считалась прошедшей тест. Одним из последствий такого сближения человека и программы должно было стать появление эффекта «зловещей долины».
В 1966 году специалист по компьютерным наукам из Массачусетского технологического института Джозеф Вайценбаум создал ELIZA — первую широко известную программу, имитировавшую разговор с человеком. Система работала на основе сопоставления шаблонов и была весьма примитивной по современным меркам, но стала важным предшественником ChatGPT и заметной вехой в истории искусственного интеллекта.
Позднее, в книге Computer Power and Human Reason, опубликованной в 1976 году, Вайценбаум писал: «Я не осознавал, что даже очень короткого взаимодействия с относительно простой компьютерной программой может оказаться достаточно, чтобы вызвать сильные иллюзорные представления у совершенно нормальных людей». В дальнейшем он превратился в одного из наиболее последовательных критиков технологического развития. ELIZA доступна в интернете и сегодня.
Период охлаждения и возвращение интереса
После первых экспериментов наступила так называемая «зима искусственного интеллекта» — почти два десятилетия сокращения финансирования, замедления исследований и падения интереса к теме. Многие учёные пришли к выводу, что задача создания машин, способных мыслить, слишком сложна. В компьютерной науке на первый план вышли другие направления, а идея машин, способных заменить человека, перестала быть приоритетной.
Ситуация изменилась в 1990-х годах, когда стремительно развились интернет и Всемирная паутина. Для новой цифровой среды создавались многочисленные аппаратные и программные решения. Рост вычислительной мощности, распространение оптоволоконной инфраструктуры и совершенствование алгоритмов вновь сделали искусственный интеллект центральной темой исследований.
Одновременно усилился интерес к подходам, основанным на больших массивах данных. В этот период компьютер IBM Deep Blue сыграл матч против чемпиона мира по шахматам Гарри Каспарова. В 1997 году система победила Каспарова, показав, что человек больше не может рассчитывать на превосходство над «мыслящей машиной» в шахматах. Для этой области это стало символическим матом человечеству.
OpenAI и появление ChatGPT
Следующий перелом произошёл в 2015 году после основания технологической компании OpenAI. Сэм Альтман объединился с Илоном Маском, который в тот момент уделял особое внимание безопасности искусственного интеллекта. Маск вскоре покинул организацию, после чего Альтман занял в ней контролирующую позицию.
OpenAI получила доступ к комплексу технологий, включая архитектуры трансформеров, обучение с подкреплением, глубокое обучение и нейронные сети. Именно это сочетание создало основу для последующего появления ChatGPT, после которого представление общества о возможностях компьютерных систем изменилось.
Большие языковые модели представляют собой масштабные статистические системы прогнозирования. Они последовательно вычисляют, какое слово с наибольшей вероятностью должно появиться следующим, опираясь на закономерности, найденные в обучающих текстах. Первой большой языковой моделью OpenAI стал GPT-1, выпущенный в 2018 году. Система, обученная на 117 млн параметров, уже демонстрировала заметные результаты в предсказании следующего слова.
Качественный скачок произошёл 30 ноября 2022 года, когда появилась модель ChatGPT. Практически сразу многие специалисты мирового уровня заявили, что система фактически прошла тест Тьюринга.
От текста к синтетическим изображениям
Позднее выяснилось, что системы прогнозирования способны создавать не только текст, но и неподвижные либо движущиеся изображения. Для этого используются колоссальные массивы обучающих данных, включающие тексты, фотографии и видеозаписи.
Считается, что ChatGPT 5 располагает от 3 до 5 трлн параметров. При этом одна из главных этических претензий связана с происхождением обучающих материалов: значительная часть текстов, фотографий и видео, по имеющимся сообщениям, собиралась без разрешения и без компенсации авторам, фотографам и операторам.
С 2022 года в интернете было создано более 30 млрд поддельных изображений, сгенерированных искусственным интеллектом. Только в ChatGPT ежедневно появляется свыше 100 млн таких изображений. Генерация синтетальной визуальной продукции превратилась в один из крупнейших источников цифровых изображений в мире, тогда как настоящие фотографии всё чаще оказываются оттеснены на второй план.
Для фотографической истории это создаёт отдельную проблему. Фотография традиционно воспринималась как визуальная фиксация реального события, места или человека. Если цифровая среда будет заполнена изображениями, не связанными с действительностью, сохранение достоверной коллективной памяти окажется значительно сложнее.
Виртуальные партнёры и новые формы зависимости
По мере развития больших языковых моделей они начали выполнять функции, которые раньше считались исключительно человеческими. Их стали использовать в качестве преподавателей, врачей, психотерапевтов и романтических партнёров. Так появился термин «девушка с искусственным интеллектом», а одинокие пользователи начали строить эмоциональные отношения с компьютерными системами.
ИИ-девушка — это виртуальный собеседник с текстовым интерфейсом, предназначенный для имитации романтической или эмоциональной связи. Такая система способна запоминать предыдущие разговоры, отвечать на вопросы и постепенно изменять манеру общения или характер в зависимости от поведения пользователя. Её задача заключается в создании ощущения постоянного компаньона, который может заменить реальные человеческие отношения.
Визуальный образ такого персонажа может быть фотореалистичным, выполненным в аниме-стилистике или основанным на фантастических мотивах. Ограничения здесь практически отсутствуют: программная среда позволяет создавать любые варианты внешности и поведения.
Риски для психики и общественной безопасности
Против разработчиков и владельцев подобных систем уже подаётся множество исков, связанных с реальным вредом для людей. Документированы случаи самоубийств, которым, согласно материалам дел, способствовало взаимодействие с искусственным интеллектом. Кроме того, с чат-ботами связывали ряд массовых стрельб.
В психологической практике и общественной дискуссии появилось обозначение «психоз, вызванный искусственным интеллектом» — AI-Induced Psychosis. Одной из особенностей чат-ботов называют склонность соглашаться с пользователем. Вместо проверки утверждений и опоры на факты система может выбирать ответ, который человеку приятнее услышать.
Другой известный феномен — так называемые «галлюцинации». В этом случае программа формирует несуществующие сведения, выдумывает факты или выстраивает ложный рассказ, не основанный на реальности. При этом основная коммерческая задача многих платформ заключается в том, чтобы удерживать пользователя как можно дольше. Чем больше времени человек проводит на сайте, тем больше возможностей для показа рекламы и продвижения маркетинговых кампаний.
Почему технология вызывает особую тревогу
Критика искусственного интеллекта не обязательно означает отрицательное отношение к технологиям в целом. В 1982 году был приобретён компьютер Apple IIe, а в 1998 году основан успешный интернет-бизнес, которым затем управляли в течение 25 лет до продажи компании. Технологии на протяжении десятилетий оставались важной частью профессиональной и личной жизни.
Однако нынешняя разновидность искусственного интеллекта воспринимается иначе из-за масштаба возможного ущерба и уязвимости тех групп, на которые он влияет. ИИ оказался в центре споров вокруг строительства дата-центров и энергопотребления, а также дискуссий о камерах Flock и угрозах праву на неприкосновенность частной жизни.
Чат-боты помогают спамерам и мошенникам работать с невиданной прежде скоростью. Технологии искусственного интеллекта активно применяются для создания дипфейков, которые усиливают общественный раскол и затрудняют отделение фактов от вымысла. Хакеры используют ИИ для взлома сайтов, кражи финансовой информации и получения доступа к персональным данным. Перечень потенциальных негативных последствий продолжает расширяться.
Просвещение как первая линия защиты
Одним из базовых способов снизить риски остаются образование и информирование. Друзья и родственники должны знать о проблемах, связанных с искусственным интеллектом, а обсуждение этих вопросов необходимо вести в школах, колледжах, университетах и общественных организациях.
В колледжах и университетах уже проводятся лекции под названием «Ловушки и опасности искусственного интеллекта для человечества» — A.I. Pitfalls and Dangers for Humanity. Их задача заключается в том, чтобы объяснить студентам возможные последствия безоговорочного доверия к автоматизированным системам.
Отдельное значение имеет умение распознавать поддельные изображения и видео. Чем больше людей сможет отличать синтетический материал от настоящей записи, тем меньше будет масштаб дезинформации. Обучение должно охватывать все возрастные группы.
Особенно уязвимыми остаются пожилые люди. Они могут доверять изображениям и видеозаписям сильнее, чем молодое поколение, поскольку в период их взросления фотография обычно воспринималась как правдоподобное визуальное свидетельство события. Для них реалистичный снимок долгое время почти автоматически означал, что изображённое действительно произошло.
Детей также необходимо знакомить не только с возможностями ИИ, но и с его недостатками: выдуманными фактами, манипуляциями, мошенничеством, поддельными изображениями и риском эмоциональной зависимости.
Регулирование по аналогии с другими индустриями
Обществу необходимо поддерживать политиков, которые понимают устройство этой технологии и связанные с ней угрозы. Одновременно требуется законодательство, способное ограничить действия компаний и установить понятные правила ответственности.
История уже знает примеры отраслей, которые сначала развивались практически без ограничений, а затем подверглись регулированию из-за доказанного вреда. К таким примерам относятся автомобильная и табачная промышленность. Ремни безопасности, подушки безопасности, отказ от этилированного топлива и возрастные ограничения позволили уменьшить ущерб, связанный с использованием этих продуктов.
Похожий подход может потребоваться и для систем искусственного интеллекта: от обязательного обозначения синтетического контента до требований к защите данных, контроля рекламных механизмов и ответственности за вредные рекомендации.
Фотографический жест против виртуальной реальности
В качестве художественного ответа на распространение ИИ была создана работа «Обнажённое исследование вашей ИИ-девушки» — Nude Study of Your A.I. Girlfriend. Произведение выполнено в историческом фотографическом процессе мокрого коллодия.
Эта техника была представлена миру Фредериком Скоттом Арчером в 1851 году. Работа датирована 2 сентября 2026 года. Её появление пришлось на период, когда рождаемость снизилась до 1,6 ребёнка на женщину, впервые опустившись ниже уровня, необходимого для простого воспроизводства населения.
Сам выбор мокрого коллодия имеет символическое значение. В отличие от мгновенно создаваемого синтетического изображения, такая фотография требует физического носителя, химического процесса и непосредственного участия автора. Изображение возникает не как результат статистического прогнозирования, а как материальный след конкретного времени, света и объекта.
Человеческий фактор и будущее ИИ
Писатель и футуролог Джон Нейсбитт сформулировал мысль, которая сохраняет актуальность в дискуссии об искусственном интеллекте: «Самые захватывающие прорывы XXI века произойдут не благодаря технологии, а благодаря расширению представления о том, что значит быть человеком».
У искусственного интеллекта есть потенциально полезные направления применения. Он может помочь в поиске лекарства от рака, решении проблемы голода в мире и разработке способов противодействия изменению климата. Однако при создании и внедрении новых систем необходимо следить за тем, чтобы их польза превышала негативные последствия.
Общество не должно оставаться пассивным наблюдателем технологических изменений, которые пытаются перестроить представление о человеческой жизни, труде, творчестве и отношениях. Для этого необходимы знания, критическое мышление и постоянная бдительность.
Человечество преодолевало множество кризисов на протяжении 200 000 лет существования Homo sapiens. Противостояние неконтролируемому искусственному интеллекту может оказаться одним из самых серьёзных испытаний за всю историю вида. В центре этого процесса остаётся вопрос о том, какие качества и границы человек намерен сохранить.
