Шейн Джонс, инженер Microsoft Corp. , как сообщается, выразил Федеральной торговой комиссии (FTC) обеспокоенность по поводу генератора изображений с искусственным интеллектом, разработанного технологическим гигантом.
Дело в том, что Microsoft якобы отказалась удалить инструмент, известный как Copilot Designer, который, по словам Джонса, способен создавать вредные изображения.
В интервью CNBC Джонс рассказал, что неоднократно предупреждал Microsoft об опасном контенте, создаваемом этим инструментом. После того как Джонс по собственной инициативе проверил уязвимости программы, его огорчили созданные ею изображения.
Несмотря на его тревогу, Microsoft не предприняла никаких действий, чтобы отозвать инструмент или усилить его защиту. Компания не стала обновлять его рейтинг до "зрелого" в магазине Android и вместо этого посоветовала Джонсу обратиться с жалобой в OpenAI, создатель модели DALL-E, на которой основаны результаты работы Copilot Designer.
После того как OpenAI проигнорировала его жалобу, Джонс публично высказал свое недовольство на LinkedIn. Когда юридическая служба Microsoft приказала ему удалить сообщение, он обратился к законодателям, другим заинтересованным сторонам, включая FTC, и совету директоров Microsoft.
Джонс написал в письме председателю FTC Лине Хан, что Microsoft и OpenAI были проинформированы о проблемах как минимум с октября. Он предупредил, что они продолжают продавать продукт "любому человеку. В любом месте. Любому устройству". Он призвал FTC вмешаться в ситуацию.
Джонс выразил свою озабоченность по поводу предполагаемого подхода Microsoft к ответственному ИИ, отметив, что Copilot Designer производит вредный контент. Сгенерированные изображения содержат изображения секса, насилия, пьянства среди несовершеннолетних, наркомании, политических пристрастий, неправомерного использования товарных знаков и теорий заговора.
В беседе с CNBC он отметил отсутствие систем отчетности и борьбы с международным распространением вредных изображений. Он подчеркнул, что Microsoft необходимо срочно усилить команду безопасности и внедрить необходимые меры защиты.
Джонс утверждает, что требования к команде Copilot чрезмерны, заявляя, что они получают "более 1000 сообщений с отзывами о продукте каждый день". Из-за предполагаемой нехватки персонала Microsoft в настоящее время занимается только "самыми вопиющими проблемами", сказал Джонс в интервью CNBC.
. news.instaforex.com2024-3-8 02:27