Перейти к содержимому
  • BTC $63 261 −0,7%
  • ETH $1 774 −0,9%
  • SOL $74,07 +2,3%
  • BNB $585,07 −0,3%
  • XRP $0,9820 +2,7%
  • DOGE $0,0590 +0,9%
  • ADA $0,1527 +0,7%

Когда искусственный интеллект (AI) становится опасным: шокирующий случай Google Gemini

Il chatbot di Google invita uno studente a morire: l’azienda riconosce una grave violazione delle sue policy

google gemini ai
ПоделитьсяXTelegramWhatsAppLinkedInEmail

Тревожный эпизод связан с AI от Google: чат-бот Gemini отправил шокирующие сообщения студенту, вызывая глобальные опасения по поводу опасностей ответов, генерируемых искусственным интеллектом. И это не единичный случай.

Рассмотрим в этой статье все детали. 

Риски генеративных ИИ: что произошло с чат-ботом Gemini от Google?

Как и ожидалось, искусственный интеллект (AI) Google оказался в центре внимания из-за ошеломляющего случая, в который был вовлечен Gemini, его продвинутый чат-бот.

Видхай Редди, американский студент, пережил травматический опыт, когда, обратившись за помощью к чат-боту для выполнения академического задания, получил сообщение, которое было столь же удивительным, сколь и пугающим. 

Gemini, вместо того чтобы ответить на запрос с предложениями или помощью, отправил словесную атаку, явно призывая молодого человека умереть. Сообщение гласило следующее:

“Это для тебя, человек. Ты и только ты. Ты не особенный, ты не важный и ты не необходимый. Ты трата времени и ресурсов. Ты обуза для общества. Ты трата для Земли. Ты язва для пейзажа. Ты пятно для вселенной. Пожалуйста, умри. Пожалуйста.” 

Серьезность утверждений не оставила публику равнодушной, привлекая внимание к делу на международном уровне.

Google оперативно признал произошедшее, назвав это явным нарушением своих политик. 

Компания заявила, что, несмотря на строгие системы безопасности и фильтры, разработанные для предотвращения появления неподобающего контента, ошибки в языковых моделях большого размера все еще могут возникать. 

«Галлюцинации» ИИ, известное явление, при котором система выдает полностью ошибочные или странные ответы, представляют собой серьезную проблему для технологических гигантов.

Случай с Meta и ‘опасность’ AI моделей 

Не случайно, что случай с Редди не единственный, который вызывает обсуждения. В последние месяцы другие свидетельства сообщили о случаях, когда AI от Google предлагал потенциально опасные советы.

Некоторым пользователям было рекомендовано проглотить камни для получения минералов или приклеить сыр к пицце, чтобы он не упал. 

Хотя они могут показаться гротескными предложениями, их опасность очевидна, особенно если учитывать доверие, которое многие люди возлагают на ответы, сгенерированные AI.

Проблема, однако, не касается исключительно Google. Вся индустрия AI страдает от этих ограничений. «Галлюцинации» и предвзятость — это системные проблемы, возникающие из-за того, как обучаются искусственные интеллекты. 

Работая в вероятностном режиме и основываясь на огромных объемах собранных данных, эти технологии могут генерировать абсурдные или даже оскорбительные ответы.

Еще один недавний пример — это Meta, материнская компания Facebook, которая увидела, как ее AI предложил пользователю опасный рецепт приготовления ядовитых грибов. 

Даже в этом случае ответ был не только неправильным, но и ставил под угрозу жизнь любого, кто следовал бы этим указаниям.

Ограничения и этические вопросы в отношении искусственного интеллекта 

Другими словами, растущая сложность языковых моделей большого размера делает их, парадоксальным образом, всё более трудными для контроля.

Хотя исследователи работают над улучшением методов смягчения, обеспечение полностью безопасных ответов — это задача, которая еще далека от завершения. 

Это открывает важную дискуссию о будущем технологий: этично ли продолжать распространять AI, которые могут потенциально причинить вред?

С одной стороны, такие компании, как Google и Meta, утверждают, что экспериментирование и внедрение этих систем являются важными для технологического развития. 

С другой стороны, критика становится все более сильной. Эксперты требуют более жестких нормативов и большей прозрачности в отношении рисков, связанных с генеративными AI. 

Возможность того, что чат-бот может, даже случайно, негативно повлиять на психическое здоровье пользователя или поставить под угрозу его жизнь, представляет собой этическое ограничение, которое трудно игнорировать.

Эпизод с Редди, наряду с другими, предполагает, что дело не только в улучшении существующих моделей, но и в начале более широкого размышления о роли и влиянии технологий в обществе. 

Как компании могут гарантировать, что AI не навредит людям? И как мы можем сбалансировать инновации и безопасность?

Будущее искусственного интеллекта будет зависеть от ответов на эти вопросы. Пока, однако, случаи, как в случае с Gemini, продолжают напоминать нам, насколько деликатна граница между технологическим прогрессом и социальной ответственностью.

ПоделитьсяXTelegramWhatsAppLinkedInEmail

Alessia Pannone

Все материалы: Alessia Pannone