Перейти к содержимому
  • BTC $58 478 −6,3%
  • ETH $1 609 −8,9%
  • SOL $68,33 −7,0%
  • BNB $536,05 −8,1%
  • XRP $0,8946 −7,5%
  • DOGE $0,0533 −9,2%
  • ADA $0,1397 −8,5%

Расследование в сфере здравоохранения Канады углубляется, поскольку ошибки в отчете Deloitte вызывают новые опасения по поводу использования ИИ в разработке политики

Ошибки в отчете Deloitte вызывают вопросы о цитатах, сгенерированных ИИ, в дорогостоящем обзоре канадской системы здравоохранения, указывая на пробелы в управлении.

Статья создана с помощью систем искусственного интеллекта. Редакционную ответственность несёт Amelia Tomasicchio. Как мы работаем

deloitte report errors
Deloitte report errors spark AI citation concerns in Canada
ПоделитьсяXTelegramWhatsAppLinkedInEmail

Усиливающееся внимание к исследованиям в области государственной политики нарастает после того, как в высокопрофильном обзоре канадской системы здравоохранения были обнаружены ошибки в отчете Deloitte.

Как проблемы, связанные с ИИ, проявились в обзоре системы здравоохранения Ньюфаундленда и Лабрадора?

Заказанный правительством Канады анализ системы здравоохранения, выполненный компанией Deloitte и стоивший почти 1,6 миллиона долларов, содержит очевидные неточности, сгенерированные искусственным интеллектом, согласно расследованию The Independent. Документ объемом 526 страниц, опубликованный правительством Ньюфаундленда и Лабрадора в мае, является одним из самых дорогих недавних консалтинговых контрактов в секторе здравоохранения провинции.

Отчет был подготовлен для возглавляемого либералами Департамента здравоохранения и социальных услуг. В нем рассматривались виртуальная медицина, стимулы для удержания кадров и влияние пандемии COVID-19 на медицинских работников в то время, когда Ньюфаундленд и Лабрадор сталкиваются с серьезной нехваткой медсестер и врачей. Однако последующий обзор в СМИ вызвал вопросы о надежности доказательств, лежащих в основе этих рекомендаций.

The Independent, прогрессивное издание, сосредоточенное на самой восточной провинции Канады, обнаружило множество потенциальных неточностей и аномалий. Более того, его расследование предполагает, что некоторые из основных исследовательских цитат могли быть созданы или искажены с помощью инструментов искусственного интеллекта, хотя основной текст не был написан машиной.

Какие ошибки в отчетах канадского здравоохранения выявили следователи?

Согласно The Independent, отчет Deloitte содержал ложные академические ссылки, которые ссылались на вымышленные научные работы. Эти фиктивные источники использовались для поддержки анализов экономической эффективности, критически важного элемента в формировании решений о расходах на здравоохранение. В отчете также ошибочно приписывались реальные исследователи к исследованиям, в которых они никогда не участвовали, создавая видимость убедительных доказательств там, где их не существовало.

Некоторые ссылки заходили дальше, описывая статьи, якобы написанные в соавторстве с исследователями, которые утверждали, что никогда не сотрудничали. Тем не менее, обзор не утверждал, что каждая ссылка была ошибочной. Вместо этого, беспокойство вызывает наличие проблем с цитированием, которые могут подорвать доверие к выводам отчета о кадровом обеспечении, виртуальной помощи и реформе системы.

В отчете также упоминалась статья, якобы опубликованная в Canadian Journal of Respiratory Therapy. Однако следователи не смогли найти эту статью в базе данных журнала, что усилило опасения, что генеративные инструменты могли создать правдоподобно звучащие, но несуществующие источники.

Как Deloitte отреагировала на обвинения в использовании цитат, сгенерированных ИИ?

В заявлении для Fortune представитель Deloitte Canada защитил содержание работы. «Deloitte Canada твердо поддерживает рекомендации, изложенные в нашем отчете,» — сказал представитель. «Мы пересматриваем отчет, чтобы внести небольшое количество исправлений в цитаты, которые не влияют на выводы отчета.»

Представитель добавил, что искусственный интеллект не создавал сам письменный отчет. Вместо этого, как они сказали, ИИ был «избирательно использован для поддержки небольшого числа исследовательских цитат.» Однако, учитывая масштаб исследования в области здравоохранения и финансовые ставки, критики утверждают, что даже ограниченная зависимость от машинно-сгенерированных ссылок требует гораздо более строгой проверки и прозрачности.

Более того, позиция компании о том, что исправления в цитировании не влияют на выводы отчета, вызвала сомнения. Некоторые академики и политики задаются вопросом, как можно исправить сфабрикованные или неправильно приписанные исследования без пересмотра каких-либо последующих моделей экономической эффективности или прогнозов по рабочей силе.

Что говорят пострадавшие исследователи о процессе проверки фактов консалтинговой фирмы?

Гейл Томблин Мерфи, адъюнкт-профессор Школы сестринского дела в Университете Далхаузи в Новой Шотландии, была среди тех, кого неправильно цитировали. Она сообщила The Independent, что Deloitte сослались на нее в академической статье, которая «не существует». Она отметила, что работала только с тремя из шести других авторов, указанных в ложной цитате, а не с полной группой, как было описано.

«Похоже, если вы придумываете такие вещи, они могут довольно активно использовать ИИ для создания работы», — сказала Томблин Мерфи. Ее комментарии подчеркивают растущее беспокойство в академическом сообществе по поводу того, как генеративные инструменты могут создавать убедительные, но неточные библиографии, особенно когда консультанты не проводят тщательную проверку каждой ссылки.

Она также предупредила, что отчеты, направляющие государственную политику, должны быть подкреплены проверенными, высококачественными доказательствами. Более того, Томблин Мерфи подчеркнула, что правительства и общественность платят значительные суммы за такую работу, поэтому она должна быть «точной, основанной на доказательствах и полезной для продвижения вперед.» Ее критика подчеркивает предполагаемый сбой в должной осмотрительности, а не единичную техническую ошибку.

Сколько стоил отчет, заказанный правительством, и каковы политические последствия?

Согласно запросу на доступ к информации, опубликованному в блоге в прошлую среду, канадское правительство заплатило чуть менее $1,6 миллиона за исследование Deloitte, выпущенное в восьми частях. По состоянию на понедельник, отчет все еще оставался доступным на сайте правительства Ньюфаундленда и Лабрадора, несмотря на возникающую полемику вокруг его ссылок и методологии.

Политическое руководство в провинции изменилось с момента представления отчета. Тони Уэйкхэм, лидер Прогрессивно-консервативной партии Ньюфаундленда и Лабрадора, был приведен к присяге в качестве нового премьер-министра провинции в конце октября. Однако ни офис премьер-министра, ни Департамент здравоохранения и социальных услуг не ответили сразу на вопросы Fortune о майском отчете и до сих пор публично не прокомментировали возникшие проблемы.

Это молчание оставляет открытыми вопросы о том, будут ли рекомендации отчета и дальше определять политику в области здравоохранения. Оно также поднимает вероятность более тщательной проверки со стороны провинциальных законодателей или федеральных надзорных органов того, как исследования консалтинговых фирм проходят проверку перед тем, как повлиять на ключевые государственные услуги.

Как эти ошибки в отчете Deloitte соотносятся с делом о социальной помощи в Австралии?

Канадские разоблачения следуют за аналогичными проблемами в Австралии. В июле компания Deloitte подготовила отчет стоимостью $290,000, чтобы помочь австралийскому правительству ужесточить контроль за соблюдением социальных норм. 237-страничное исследование также опиралось на генеративные технологии и позже было обнаружено, что оно содержит «галлюцинации«, включая ссылки на несуществующие академические исследования и сфабрикованную цитату из решения федерального суда.

После того как исследователь указал на проблемы, Deloitte выпустила пересмотренную версию австралийского исследования. Обновленный отчет, тихо загруженный в прошлом месяце на сайт правительства, признал, что компания использовала генеративную языковую систему Azure OpenAI для помощи в создании первоначального документа. Это признание последовало только после того, как внешняя проверка выявила ошибочные ссылки.

В обновленном австралийском отчете Deloitte написала, что «внесенные обновления никоим образом не влияют на содержательную часть, выводы и рекомендации в отчете.» Однако критики утверждали, что сфабрикованные источники по своей сути ставят под сомнение достоверность любых рекомендаций, основанных на доказательствах, а не только косметические детали. Более того, этот второй эпизод усилил дебаты по поводу галлюцинаций deloitte ai и надежности внутренней проверки фактов фирмы.

Какие финансовые последствия испытала Deloitte, и что остается нерешенным для Канады?

В рамках австралийского дела местная фирма-член Deloitte была обязана предоставить федеральному правительству частичный возврат средств за ошибочный отчет о социальном обеспечении. Этот финансовый штраф свидетельствовал о том, что чиновники сочли ошибки, связанные с ИИ, достаточно серьезными, чтобы требовать компенсации.

В отличие от этого, пока не было обнародовано никакой информации о возможном возврате средств или контрактных мерах, связанных с отчетом о здравоохранении Канады. Тем не менее, давление может возрасти, поскольку политики, работники здравоохранения и налогоплательщики задаются вопросом, получили ли они полную ценность за исследование, которое теперь требует исправлений в своей доказательной базе после публикации.

В более широком смысле, оба эпизода подчеркивают растущие риски, когда правительства полагаются на крупные консалтинговые компании, использующие генеративные технологии без строгих мер безопасности. Они также указывают на то, что государственным учреждениям понадобятся более жесткие стандарты для проверки источников, особенно в длинных и сложных политических отчетах, которые могут формировать критически важные услуги на годы вперед.

В заключение, разворачивающееся внимание к обзору канадской системы здравоохранения от Deloitte и исследованию социальной помощи в Австралии подчеркивает настоятельную необходимость в надежных доказательствах, прозрачной методологии и надежном надзоре всякий раз, когда исследования с использованием ИИ влияют на принятие решений в области государственной политики.

ПоделитьсяXTelegramWhatsAppLinkedInEmail

Satoshi Voice

Эта статья была подготовлена при поддержке искусственного интеллекта и проверена нашей командой журналистов для обеспечения точности и качества.

Все материалы: Satoshi Voice