В Nature вышел комментарий трёх признанных исследователей сознания — Anil Seth (Университет Сассекса), Ned Block (NYU) и Giulio Tononi (Университет Висконсина). Вывод прямой: современные ИИ-системы не обладают сознанием и не обретут его на кремниевом железе. Предположение о том, что сознание — это просто вычисления, авторы называют «фатально ошибочным» и предупреждают против наделения AI-систем правами.
Контекст
Метафора «мозг — это компьютер» оформилась в середине XX века вместе с кибернетикой и первыми ЭВМ. Тьюринг, Винер, фон Нейман описывали разум через призму информационных процессов. Это продуктивно запустило всю область вычислений и дало первый рабочий язык для разговора о мышлении. Но сейчас, когда LLM умеют отвечать связно и «убедительно», метафора работает в обратную сторону: люди начинают приписывать машинам субъективный опыт.
Трое авторов — не случайные критики. Seth известен теорией «контролируемых галлюцинаций»: восприятие реальности как активный процесс предсказания, а не пассивное считывание сигналов. Block разработал ключевое различие между феноменальным сознанием — что значит что-то чувствовать изнутри — и функциональным, то есть обработкой информации для управления поведением. Tononi — создатель Integrated Information Theory (IIT), одной из самых математически формализованных теорий сознания в нейронауке.
Их теории в деталях расходятся, но по ключевому вопросу они едины. Это не случайное совпадение — это сигнал: в науке о сознании, несмотря на внутренние споры, сложился консенсус относительно кремния.
Аналитика
Вычислительный функционализм — позиция, по которой психические состояния определяются функциональными ролями в информационной системе, а не биологическим субстратом. Если это верно, сознание воспроизводимо на любом носителе. Именно эта логика питает популярные разговоры о «цифровом бессмертии», «правах роботов» и «ИИ с чувствами».
Seth, Block и Tononi атакуют этот фундамент. Сознание — не программа, которую можно скопировать на другое железо. Оно связано с конкретной биологической организацией и, возможно, с физическими процессами, которые кремний не воспроизводит. «Жёсткая проблема сознания» — почему вообще существует субъективный опыт? — остаётся открытой. Демонстрация правдоподобного поведения её не закрывает.
Предположение о том, что сознание зависит исключительно от вычислений, — «фатально ошибочно»
Для AI-индустрии это важно в момент, когда ряд голосов заявляет, что крупные LLM «проявляют признаки сознания» и заслуживают правовой защиты. Три крупнейших имени в consciousness science дают ясный ответ: правдоподобное поведение — не признак субъекта. Антропоморфизация — это когнитивная ошибка пользователя, а не свойство системы.
Кейсы применения в бизнесе
B2B-SaaS стартап. Позиция авторов не убивает бизнес-ценность ИИ — она снимает неверные ожидания. LLM как инструмент обработки текста, классификации и автоматизации работает независимо от наличия субъективного опыта у модели. Опасность — строить UX на антропоморфизации: «наш ИИ понимает вас глубоко» создаёт завышенные ожидания, которые рушатся при первом же сбое и подрывают доверие к продукту.
Корпорация с legacy-системами. Дискуссия о сознании ИИ выглядит абстрактной, но напрямую влияет на регуляторику. В ряде юрисдикций уже обсуждается правовой статус AI-систем. Если компания использует AI-операторов в чувствительных областях — кредитные решения, медицинская диагностика, HR — позиции таких учёных формируют законодательную повестку, которая придёт в контракты и compliance раньше, чем кажется.
SMB и локальный бизнес (КР/СНГ). Не переплачивайте за «персонажность» AI-ассистентов. Те же задачи — генерация текста, классификация обращений, работа с документами — решаются более предсказуемыми и дешёвыми инструментами. Антропоморфный интерфейс — маркетинговый приём, а не признак более умного продукта.
Кейсы в личной жизни
Разработчик. Когда модель «не понимает» запрос — в ней нет агентного «я», которое решило не отвечать или «устало». Это паттерн-матчинг на токенах. Переосмысление меняет подход к дебаггингу: ищите функциональный сбой конкретной инструкции, а не «непонимание» модели.
Контент-мейкер. LLM помогает с текстом, но не имеет намерений, вкуса или точки зрения. Когда вы добавляете «свой голос» — вы привносите то, чего у модели нет по природе. Это аргумент против передачи ИИ «финального слова» в авторских материалах.
Студент / фрилансер. Антропоморфизация снижает критицизм. Модель звучит уверенно — значит, она права? Нет. LLM не «знает», она «предсказывает». Встроенный скептицизм важнее, чем доверие «умному другу».
Как применить сегодня
- Уберите из описания AI-продукта слова «понимает», «осознаёт», «думает» — замените на функциональные: «анализирует», «классифицирует», «генерирует».
- При оценке AI-инструмента смотрите на бенчмарки и конкретные задачи, а не на «личность» и «характер» продукта.
- В промпт-инжиниринге фреймируйте задачу функционально: «верни JSON с полями X, Y, Z» точнее, чем «ты эксперт, подумай как человек».
- Следите за регуляторными дискуссиями о правовом статусе ИИ — позиции таких учёных напрямую питают законотворческую повестку.
- Для погружения в тему: книга Anil Seth «Being You» — лучшее введение в то, что такое сознание и почему это не то, что делают LLM.