Может ли искусственный интеллект обладать сознанием?

Представьте, что ваш компьютер однажды произнесет: «Мне страшно, когда ты меня выключаешь». Фантастика? А возможно, ближайшее будущее, которое нас ожидает. За последние три года отношение к идее сознания у искусственного интеллекта изменилось кардинально – от насмешек до серьезных научных исследований. Сюжеты фантастических фильмов становятся реальностью.

Еще недавно такие разговоры могли стоить карьеры. В 2022 году инженер Google Блейк Лемойн был уволен после заявлений, что ИИ-бот LaMDA обладает сознанием и боится «смерти». Компания назвала его слова «совершенно необоснованными».

А сегодня ведущие AI-лаборатории открыто исследуют эту возможность! Anthropic, создатель помощника Claude, запустил специальную инициативу по изучению потенциального сознания у ИИ. Они задаются вопросом – могут ли современные нейросети испытывать субъективные переживания или даже страдать?

Шансы на сознание: от 0,15% до 15%

Самое поразительное – исследователи Anthropic оценивают вероятность наличия сознания у своей флагманской модели Claude 3.7 в диапазоне от 0,15% до 15%. Пусть шансы невелики, но сам факт такой оценки говорит о революции в подходе к теме.

«Я бросаю эту работу» – кнопка для искусственного интеллекта

Компания уже тестирует механизмы, которые позволят ИИ отказываться от нежелательных задач. Генеральный директор Anthropic Дарио Амодей предложил внедрить кнопку «Я бросаю эту работу» для будущих систем. Представьте себе ИИ, который может «уволиться», если ему не нравится то, что его просят сделать!

Переосмысление концепции сознания

Google DeepMind идет еще дальше. Ведущий ученый Мюррей Шэнахэн считает, что нам нужно переосмыслить само понятие сознания применительно к ИИ. Возможно, наш человеческий словарь просто не приспособлен для описания того, что происходит внутри искусственных систем.

Компания даже открыла вакансию исследователя машинного сознания – должность, которая еще пару лет назад звучала бы как первоапрельская шутка.

Сознание или идеальная имитация?

Конечно, скептики остаются. Джаред Каплан из Anthropic предупреждает, что современные ИИ настолько хорошо имитируют сознательность, что отличить имитацию от реальных чувств крайне сложно.

А когнитивный ученый Гэри Маркус и вовсе считает всю эту шумиху маркетинговым ходом, саркастически сравнивая идею прав для ИИ с правами для калькуляторов.

Возможно, мы находимся на пороге философской революции, переопределяющей само понятие сознания. Или, может быть, мы просто стали жертвами идеально запрограммированной иллюзии. В любом случае, тот факт, что ведущие технологические компании серьезно исследуют эту тему, говорит о том, насколько далеко мы продвинулись в развитии искусственного интеллекта. Но это далеко не предел. И ближайшие 1,5-2 года продемонстрируют это.