Билл Гейтс: ИИ опаснее ядерного оружия — интервью The New York Times на русском (дубляж)

Краткое содержание

В интервью Билл Гейтс обсуждает развитие ИИ, его потенциальные угрозы и пользу. Он подчёркивает, что говорит как технологический предприниматель и руководитель фонда, работающий с государствами. Многие оценки рисков в разговоре — именно его позиция, а не установленные прогнозы.

Развитие ИИ и его возможности

• Гейтс вспоминает, что ещё в 1970-х считал создание программ, способных видеть, слышать, читать и писать, важнейшей задачей компьютерных наук. Прорыв, по его мнению, стал возможен благодаря развитию вычислительных мощностей и нейросетевых методов.
• Одним из переломных моментов для него стала демонстрация ранней версии ChatGPT: модель успешно решила сложные вопросы по биологии, в том числе те, которых, как считал Гейтс, она заранее не видела.
• Другим важным примером стало написание и проверка кода: современные модели уже могут находить ошибки и уязвимости в программном обеспечении. При этом Гейтс считает, что с долгосрочным стратегическим планированием они пока справляются хуже.
• В стратегических обсуждениях Фонда Гейтса ИИ уже используют как участника: материалы анализируют с помощью ChatGPT, Claude и Copilot, а иногда моделям предлагают указывать на ошибки или спорные предположения. Гейтс описывает переход от «шутки» об ИИ-помощнике к его реальному участию в работе.

Риски и регулирование

• Гейтс считает, что человечество уже приблизилось к опасным порогам в кибербезопасности и биологии. По его оценке, ИИ может помогать находить уязвимости в коде, а также ускорять разработку биологических решений двойного назначения.
• Он опасается, что инструменты, способные облегчить крупные кибератаки или создание опасных биологических агентов, могут оказаться доступны небольшим группам злоумышленников, а не только государствам.
• Гейтс выступает против надежды на то, что индустрия сама себя отрегулирует. Он считает недостаточными фильтры компаний, их репутационные риски и последующую юридическую ответственность: меры защиты, проверки и мониторинг должны вводиться заранее и быть обязательными.
• Среди предлагаемых мер — контроль доступа к особенно опасным возможностям моделей, независимые проверки и мониторинг платформ, в том числе для открытых моделей. По его мнению, такие ограничения не обязательно должны запрещать бесплатное распространение или настройку моделей.
• Он признаёт и риск потери контроля над самими системами, включая недостатки текущих методов обучения и наблюдения. Однако ближайшую опасность видит прежде всего в том, что люди могут применить ИИ во вред.
• Гейтс также критикует аргумент о необходимости ослабить регулирование ради победы над Китаем: он предлагает рассматривать защиту от рисков как международную задачу.

Работа, занятость и налоги

• Пока, по словам Гейтса, наиболее заметный порог надёжности ИИ преодолён в программировании. В ближайшие годы он ожидает распространения автоматизации в бухгалтерии, юридической работе, продажах и телефонной поддержке.
• Он считает, что ИИ может вытеснять сотрудников, если выполняет целую задачу дешевле и достаточно надёжно. Снижение стоимости услуг не всегда создаёт сопоставимое количество новых рабочих мест; эффект роста спроса, или парадокс Джевонса, применим не ко всем профессиям.
• Среди возможных мер Гейтс предлагает обсуждать налогообложение автоматизированного труда, чтобы роботизированная замена сотрудника не освобождалась от взносов, поддерживающих пенсионную и социальную системы.
• Ещё одна идея — заранее сохранить человеческую занятость в отдельных сферах, например в уходе за детьми и пожилыми, некоторых медицинских и образовательных услугах. Гейтс подчёркивает, что переход может быть болезненным, особенно для работников, которым трудно быстро сменить профессию.
• Он не предсказывает единственный исход: будущее, по его словам, может варьироваться от широкого материального достатка до серьёзных социальных потрясений и экзистенциальных рисков. Важная задача — сохранить человеческий контроль и смягчить последствия перехода.

Польза ИИ и работа Фонда Гейтса

• Фонд стремится применять ИИ там, где коммерческий рынок может не обеспечить доступ: в здравоохранении, образовании и сельском хозяйстве бедных стран.
• Гейтс приводит пример женщины в удалённой деревне Нигерии, говорящей на йоруба: голосовой ИИ на её родном языке мог бы помочь получить медицинскую информацию, если рядом нет врача.
• Он отмечает неравномерность языковой поддержки: качество систем на английском значительно выше, чем на многих других языках.
• В сельском хозяйстве Индии система, которой, по словам Гейтса, пользуются более миллиона фермеров, помогает распознавать болезни растений и выбирать удобрения и сорта. В Африке ИИ также используют для предоставления фермерам более точных погодных данных.
• Гейтс утверждает, что в странах с низкими доходами ИИ способен дать значительную пользу, хотя доступ зависит от наличия смартфонов, интернета, локальных языковых моделей и вычислительных ресурсов.
• Фонд планирует потратить 200 млрд долларов к 2045 году. Гейтс говорит, что ИИ может ускорить разработку лекарств и сельскохозяйственных культур, но снижение международной помощи означает, что новые технологии сами по себе не компенсируют нехватку средств.

Образование и дети

• Гейтс отмечает, что результаты внедрения технологий в образовании неоднозначны: то, что работает в небольшой группе школ, может не дать эффекта при масштабировании.
• В качестве примера он описывает систему в школах Нью-Йорка, связанную с учебной программой Kiddom: ученики отвечают на короткие вопросы, а учитель получает данные о том, какие темы и кому даются трудно.
• Он опасается «когнитивной разгрузки», когда учащиеся передают ИИ пересказ текстов, черновики сочинений и решение задач, не осваивая материал самостоятельно. В одном исследовании дети, по пересказу интервью, лучше выполняли домашние задания с ИИ, но хуже проходили тесты без него.
• Гейтс считает, что ИИ можно использовать как пошагового наставника, который помогает разобраться в рассуждении, а не просто выдаёт готовый ответ. Результат зависит от того, помогает ли система учиться или позволяет обходить процесс обучения.
• В отношении детей он не поддерживает безусловный запрет, но выступает за возрастные ограничения, участие родителей и более внимательный контроль использования ИИ, в том числе виртуальных собеседников и инструментов для выполнения домашних заданий.

Другие темы

• На вопрос о Джеффри Эпштейне Гейтс заявил, что встречался с ним в надежде привлечь финансирование для глобального здравоохранения, признал это ошибкой и сказал, что больше не будет рисковать репутацией фонда подобным образом.
• Он рассказал, что среди факторов, влияющих на планы фонда, — рост возможностей ИИ и сокращение помощи беднейшим странам. По его словам, фонд добился значительных результатов в здравоохранении, в том числе снижения детской смертности, но образовательные реформы даются сложнее.
• В завершение Гейтс рекомендовал три книги:
  1. The Correspondent Вирджинии Эванс — художественный роман.
  2. Into the Crusher Николаса Энриха — книга, которую он связывает с решением о прекращении работы USAID.
  3. The Infinity Machine Себастьяна Маллаби — история Демиса Хассабиса и DeepMind, а также становления индустрии ИИ.

Обзоры, руководства и примеры

Формат видео — интервью, а не обзор или пошаговый tutorial. В разговоре, однако, приводятся примеры оценки и применения технологий:

• Проверка возможностей модели: демонстрация решения сложных задач по биологии.
• Программирование: модели пишут и проверяют код, находят ошибки и уязвимости.
• Стратегические обзоры Фонда Гейтса: ChatGPT, Claude и Copilot анализируют материалы и участвуют в обсуждениях, но не принимают окончательных решений.
• Образование: система Kiddom помогает учителям выявлять пробелы в знаниях учеников.
• Сельское хозяйство: ИИ-сервис в Индии даёт фермерам рекомендации по болезням растений, удобрениям и сортам.

Основные спикеры и источники

• Билл Гейтс — собеседник, чьи взгляды на ИИ, регулирование, занятость и благотворительность представлены в интервью.
• Эзра Кляйн — интервьюер, ведущий разговор и задающий уточняющие и критические вопросы.
• The New York Times / The Ezra Klein Show — источник оригинального интервью.
• DoubleD — канал, представивший русскоязычный дубляж.