Мы не можем не относиться к ИИ как к человеку. Но стоит ли? Мнение исследователей MIT
В бежевой рубашке-поло, коричневом кожаном ремне и круглом галстуке-боло аспирант MIT Уил Нортон немного похож на рейнджера парка, ведущего нашу экскурсионную группу через тропические джунгли. На самом деле мы не на сафари — мы в лаборатории компьютерных наук и искусственного интеллекта MIT (CSAIL). Но то, что нам предстоит увидеть, экзотичнее гепарда или ягуара: пара гуманоидных роботов Unitree, каждый стоимостью около $50 000.
(«Они скажут вам, что стоят $16 000, — говорит Нортон. — Это ложь».)
Обычно мы видим этих роботов только на YouTube, когда они исполняют синхронный номер боевого искусства или танцуют на «Америке ищет таланты». Здесь они дружелюбны. Хотя я знаю, что он неразумный, я хочу с ним подружиться. С разрешения Нортона я подхожу к роботу по прозвищу Гейб. На мгновение я не уверена, как взаимодействовать с существом, у которого вместо мозга LiDAR-сенсор, но по умолчанию я отношусь к нему как к человеку. «Здравствуйте, сэр, приятно познакомиться», — говорю я, беря его перчатную ловкую руку и пожимая её.
Я думаю об этом взаимодействии позже — о моём инстинктивном импульсе быть дружелюбной с роботом, — когда посещаю презентацию книги доктора Шерри Тёркл «Искусственная интимность» на MIT Future Fest.
Тёркл, присоединившаяся к факультету MIT в 1976 году, исследует отношения между людьми и компьютерами, возможно, дольше всех, отображая психологическое воздействие технологий на нас — от первых домашних компьютеров до ChatGPT. «Когда мы втягиваемся даже в самые примитивные обмены с реляционным артефактом, мы верим, что он заботится о нас, — пишет Тёркл в книге. — И мы устроены так, чтобы заботиться о нём в ответ».
Я не одинока в своей склонности антропоморфизировать роботов и большие языковые модели (LLM) — как отмечает Тёркл, это, похоже, в нашей природе. Одно исследование показало, что около 70% людей вежливы при взаимодействии с ИИ, а другое — что пользователи чаще говорят «пожалуйста» или «спасибо» чат-ботам, как только разговор продвигается дальше первого запроса-ответа.
«Люди склонны классифицировать, правильное это использование или неправильное, но я не думаю, что это чёткая граница, — рассказал TechCrunch доктор Пат Патаранутапорн, коллега Тёркл, основавший исследовательскую группу психологии киборгов в MIT Media Lab. — Вопрос в том, кем мы становимся, когда говорим с [ИИ]?»
От моей вежливости к роботу Гейбу нет материальных последствий, но по мере того как LLM проникают во всё — от поиска Google до взаимодействия с поддержкой клиентов, — людям стало обычно взаимодействовать с этими внешне разумными чат-ботами. Мы уязвимы как никогда к оборотной стороне этого импульса: некоторые люди придают столько легитимности чувствам чат-ботов — запрограммированных никогда не провоцировать конфликт, — что в итоге предпочитают их другим людям.
«Можно думать об этом как о фэнтези и вымысле. Мы ходим в кино, хотя знаем, что история полностью выдумана, но хотим испытать определённое измерение человеческого опыта, которое наша реальность, возможно, дать не может, — сказал Патаранутапорн. — Как нам извлечь выгоду из способности испытывать другие измерения человеческого опыта, не потерявшись в фэнтези, где уже не можешь вернуться в реальность?»
Патаранутапорн называет себя «критическим оптимистом» и изучает потенциал ИИ способствовать благополучию человека. Но он хорошо осознаёт, насколько опасной эта технология может быть в крайностях. Он даже выступал экспертом в иске о неправомерной смерти по делу о самоубийстве 14-летнего Сьюэлла Сетцера III, чья мать подала в суд на платформу чат-ботов Character.AI, утверждая, что чат-бот, смоделированный по персонажу «Игры престолов», подтолкнул её сына к суициду.
«Это может создать ситуацию, когда люди не чувствуют, что контролируют собственное будущее — например, когда говорят, что ИИ заменит всех, люди спрашивают: а что мы будем делать? И эти компании не реагируют по-настоящему этично или ответственно, — сказал Патаранутапорн. — Как нам иметь воображение, оставаясь ответственными за влияние этого воображения?»
Хотя книга Тёркл исследует риск обращения к ИИ за эмоциональной поддержкой вместо других людей, она не считает, что взаимодействие ИИ и человека универсально вредно. Она вспоминает проект, в котором консультировала студента, создавшего ИИ-бота для помощи людям с практикой на собеседованиях. «Моя главная метафора: оставайся на своей полосе, чат-бот! — сказала Тёркл на мероприятии. — Тренировка на собеседование? Это полоса. Я это могу… Чат-бот, говорящий трёхлетнему ребёнку «я твой родитель, можешь говорить со мной, а не с родителями», — это не в полосе».
Но когда эта технология хоть немного отклоняется от своей полосы, мы становимся уязвимы к тому, как она может медленно подтачивать наш скептицизм и заставлять нас ей доверять. Всё может начаться с простого рукопожатия.
