Artificial Superintelligence (ASI) Alliance запустил новую серию дебатов, которая обещает переопределить отношения между человечеством и искусственным интеллектом.
Проект под названием The Ten Reckonings of AGI начинается с оживленного обсуждения между двумя наиболее авторитетными голосами в этой области: Доктор Бен Гёртцель, генеральный директор SingularityNET, и Джеймс Баррат, автор книги “Our Final Invention”. Первый эпизод, “The Reckoning of Purpose”, затрагивает ключевой вопрос: способно ли человечество по-прежнему контролировать создаваемую технологию?
Summary
Двустороннее оружие технологии ИИ
Джеймс Баррат предупреждает ясно:
«Технология используется как оружие для убийства наших собратьев».
Согласно Баррату, история учит, что каждое технологическое новшество неизбежно используется и в разрушительных целях. Недавний и драматический пример — использование систем искусственного интеллекта в вооруженных конфликтах, как это произошло в Газа, где AI была применена в летальных целях.
Баррат подчеркивает срочную необходимость регулирования и управления, чтобы избежать манипуляции искусственным интеллектом со стороны правительств в вредоносных целях.
Видение Бена Гёрцеля: децентрализация и высшая мораль
Этому пессимистическому взгляду Доктор Бен Гёртцель противопоставляет более оптимистичный и радикальный подход. Гёртцель утверждает, что открытый, децентрализованный и демократический ИИ может оказаться более моральным по сравнению с лидерами крупных мировых держав:
«Я больше обеспокоен машинами-убийцами узкого ИИ, контролируемыми людьми, которые управляют нашими основными странами, чем автономным и рефлексивным AGI».
По его мнению, разработка AGI (Artificial General Intelligence), ориентированной на благополучие человека, предлагает больше возможностей для прогресса по сравнению с выжидательной позицией.
Этическая дилемма: можем, но должны ли?
Сердце дебатов вращается вокруг фундаментального этического вопроса:
«Только потому, что мы можем создать AGI, должны ли мы это делать?»
Баррат настаивает на том, что каждая новая технология неизбежно милитаризуется, в то время как Гёрцель возражает, что AGI, разработанный для общего блага, может помочь человечеству найти новые цели и смыслы, стимулируя креативность и научные исследования.
Гёрцель видит в историческом переходе к AGI возможность решить глобальные проблемы, такие как голод и болезни, а также освободить человека от трудовой усталости, открывая путь к новым формам личной самореализации.
Баррат, однако, предупреждает:
«Когда AGI придет и мы все останемся без работы, что мы будем делать? Если ввести универсальный базовый доход и платить всем за бездействие, есть риск получить общество несчастных и лишенных цели людей».
Будущее работы и смысл жизни
Дебаты, таким образом, переходят к будущему работы и смыслу существования в мире, где доминирует автоматизация. Баррат опасается, что освобождение от работы может привести к утрате автономии, ответственности и цели. Гертцель, напротив, призывает не бояться изменений:
«Мы находимся на этапе перехода, как и при любом великом повороте в истории человечества. Когда AGI устранят необходимость в работе и станут умнее нас, настоящей проблемой будет не безработица, а тот тип развития, который мы выберем для этих технологий».
Цель ASI Alliance: открытый, этичный и демократичный ИИ
Через серию The Ten Reckonings of AGI, ASI Alliance – глобальная и децентрализованная сеть пионеров в области AI и Web3, включающая SingularityNET, Fetch.ai и CUDOS – стремится вынести эти темы в центр общественного обсуждения. Альянс стремится продвигать развитие искусственного интеллекта, которое будет открытым, этичным и демократичным, вдали от исключительного контроля крупных технологических компаний и правительств.
ДЕСЯТЬ РАСПЛАТ AGI — это десять критических, нерешенных вопросов, которые определят будущее человечества и наши отношения с искусственным интеллектом, от узкого ИИ до искусственного общего интеллекта (AGI) человеческого уровня и до Суперинтеллекта.
— SingularityNET (@SingularityNET) June 6, 2025
Эта инициатива основывается на нашем… pic.twitter.com/JBVhhKF8op
ASI Alliance также использует общую экономическую инфраструктуру через токен FET, который облегчает децентрализованную координацию между ее участниками и поддерживает видение действительно общей AI.
Кто такой Бен Гёртцель?
Доктор Бен Гёрцель — одна из самых разносторонних и дальновидных фигур в области искусственного интеллекта. Основатель SingularityNET Foundation, OpenCog Foundation и AGI Society, Гёрцель также работал главным научным сотрудником в Hanson Robotics, способствуя разработке известных роботов София и Грейс.
С более чем 25 книгами и 150 научными публикациями на счету, Гёрцель признан одним из самых радикальных и независимых голосов в глобальной сфере ИИ.
Открытая дискуссия о будущем человечества
Серия The Ten Reckonings of AGI представляет собой уникальную возможность для размышлений о моральных, социальных и экзистенциальных вопросах, которые поднимает искусственный интеллект. Сопоставление мнений Гёрцеля и Баррата подчеркивает сложность выбора, стоящего перед человечеством: с одной стороны, риск разрушительного использования технологий; с другой стороны, надежда на то, что демократический ИИ может помочь построить лучшее будущее.
Вопрос остается открытым: сможем ли мы направить искусственный интеллект на благо общества, или он нас поглотит? Ответ будет зависеть от решений, которые мы примем сегодня, от смелости противостоять вызовам и от способности представить будущее, в котором технологии и человечество действительно смогут сосуществовать.
Чтобы углубить дискуссию, можно посмотреть первый эпизод “The Reckoning of Purpose”, продвигаемый ASI Alliance, который приглашает всех принять участие в этой глобальной беседе о судьбе искусственного интеллекта.
