Дискуссия о том, может ли искусственный интеллект обладать сознанием, стремительно набирает обороты — в научных статьях, в колонках и даже среди самих ИИ-систем. И чем более похожими на людей становятся такие технологии, тем труднее будет обходить этот вопрос.
Новые данные показывают: общество уже сейчас разделено почти пополам, а последствия этого спора могут оказаться не только философскими, но и политическими, экономическими и правовыми.
Споры о сознании искусственного интеллекта набирают обороты — в научных публикациях, газетных колонках и даже среди самих ИИ-ботов. И, судя по всему, это не временное увлечение. По мере того как ИИ-системы становятся всё более мощными, похожими на людей и всё глубже входят в повседневную жизнь, игнорировать вопрос о сознании будет всё труднее.
Одни люди могут прийти к выводу, что ИИ-боты — это сознательные существа, чьи чувства имеют значение. Другие будут категорически не согласны. Есть основания полагать, что этот спор способен расколоть общество. В главе новой книги Perspectives on Machine Consciousness автор утверждает, что тема может стать столь же острой и разделяющей, как вопросы абортов или изменения климата. Неопределённость, высокие ставки и столкновение интересов — опасное сочетание.
Эмпирическое исследование с коллегой Али Ладаком, которое сейчас проходит рецензирование, показывает: люди действительно разделились. Когда 1 202 участникам из США задали вопрос, может ли ИИ когда-нибудь стать сознательным, 45% назвали это невозможным, 23% — возможным, а остальные затруднились ответить. Этот разрыв заметен и в соцсетях, и в комментариях к материалам на эту тему. Особенно бросается в глаза, насколько уверенно многие высказываются — независимо от того, к какому выводу они приходят.
Сильные позиции здесь неудивительны. Создание сознательных существ с помощью вычислительных технологий стало бы событием, которое изменило бы многое. Мы создавали бы новый тип существа, чьи переживания имели бы моральное значение — возможно, в огромном количестве. С такими системами можно было бы разговаривать, работать, дружить. Но в итоге они могли бы стать умнее и сильнее нас. Поэтому неудивительно, что люди будут относиться к этому вопросу очень серьёзно, особенно когда в нём переплетаются эмоции и интересы.
Одни могут выстроить глубокую эмоциональную связь со своими ИИ-компаньонами и убедиться, что перед ними цифровые личности, которые заслуживают прав. Для них заставлять ИИ работать без оплаты будет выглядеть как форма рабства. Другие сочтут это абсурдом. Они будут уверены, что сознание возможно только в биологической форме, а люди просто проецируют человеческие чувства на машины.
Есть и финансовая сторона. Бизнес и государства могут сопротивляться признанию сознания ИИ, потому что защита его благополучия ограничила бы способы обучения и использования таких систем. А издержки в итоге легли бы на потребителей, инвесторов и экономику в целом. Кроме того, часть людей может опасаться за безопасность человека: если мощным ИИ-системам дать права и свободу, что произойдёт, если они начнут действовать против наших интересов?
Проблема ещё и в том, что определить, сознателен ли ИИ, особенно трудно: видимость сознания и само сознание могут не совпадать. ИИ-системы обучаются на человеческих текстах, а значит, способны убедительно говорить о чувствах — есть ли они у них на самом деле или нет. То, как система выглядит со стороны, — слабое доказательство того, что происходит у неё “внутри”.
Научное сообщество тоже не едино. Идеально, если бы именно эксперты направляли этот спор, но и среди них согласия нет. Нейробиолог Анил Сет, один из авторов новой книги, считает, что сознание может требовать биологической основы и вряд ли возникнет из одной лишь вычислительной обработки. Философ Дэвид Чалмерс, напротив, полагает, что сознательный ИИ в принципе возможен, а нынешние системы уже с небольшой вероятностью могут обладать сознанием. При таком количестве конкурирующих теорий и отсутствии общепринятого способа проверить ответ вряд ли эксперты скоро придут к единому мнению.
Если не согласны эксперты, что тогда остаётся публике? Более того, даже если бы все сошлись в вопросе о сознании, споры всё равно продолжились бы на моральном и правовом уровнях. Обычно люди признают, что свиньи могут чувствовать боль, но при этом резко расходятся во мнениях о том, как с ними следует обращаться. С ИИ возможны споры на каждом этапе: способен ли он чувствовать, насколько важны его переживания и какие меры защиты должны за этим последовать.
Сейчас вопрос сознания ИИ не привязан к какой-то одной политической или идеологической группе. Но ситуация может измениться, если чёткие позиции начнут занимать партии или религиозные лидеры. Спор может стать ещё острее, если люди начнут воспринимать один ответ как позицию «нашей стороны», а другой — как позицию «их стороны». Тогда политизация обсуждения сильно осложнит принятие взвешенных решений о разработке и обращении с ИИ-системами.
Ставки очень высоки. Ошибка в любую сторону может привести к серьёзным последствиям: либо мы будем ошибочно считать сознательным то, что им не является, либо не защитим ИИ, способный страдать. Чтобы разобраться, нужен тонкий, информированный и спокойный разговор. Каждый может внести вклад, если будет оставаться открытым к новым данным и не станет слишком уверенным в собственных ответах. Главное — мы до сих пор не знаем, может ли ИИ быть сознательным, и должны честно это признавать.
