Група з технологічної етики, що займається питаннями штучного інтелекту, звернулася до Федеральної торгової комісії США (FTC) з проханням розслідувати діяльність OpenAI на предмет порушення правил захисту прав споживачів, повідомляє The Verge. Група стверджує, що розгортання організацією інструментів генерації ШІ-текстів було «упередженим, оманливим і становило загрозу громадській безпеці».
Центр штучного інтелекту і цифрової політики (CAIDP) подав скаргу після публікації гучного відкритого листа із закликом призупинити великі генеративні експерименти зі штучним інтелектом.
Президент CAIDP Марк Ротенберг був одним з підписантів листа, а також ряд дослідників ШІ та співзасновник OpenAI Ілон Маск. Як і у відкритому листі, у скарзі міститься заклик уповільнити розробку генеративних моделей ШІ та запровадити суворіший державний нагляд.
У скарзі CAIDP вказується на потенційні загрози від генеративної текстової моделі OpenAI GPT-4, про яку було оголошено в середині березня. До загроз відносяться способи, за допомогою яких GPT-4 може створювати шкідливий код і вузькоспеціалізовану пропаганду, а також способи, за допомогою яких упереджені навчальні дані можуть призвести до вкорінення стереотипів або несправедливих расових і гендерних переваг у таких речах, як наймання на роботу. У звіті також вказується на значні порушення конфіденційності в інтерфейсі продукту OpenAI – наприклад, нещодавній баг, який розкрив історії чату OpenAI ChatGPT і, можливо, платіжні реквізити інших користувачів.
У скарзі CAIDP просить FTC зупинити будь-яке подальше комерційне розгортання моделей GPT і вимагати незалежної оцінки моделей перед будь-яким майбутнім розгортанням. Вона також просить створити загальнодоступний інструмент звітності, подібний до того, який дозволяє споживачам подавати скарги на шахрайство. Крім того, вона прагне чіткого визначення правил FTC щодо генеративних систем ШІ, спираючись на поточні, але все ще відносно неформальні дослідження та оцінку інструментів ШІ, що проводяться агентством.
Як зазначає CAIDP, FTC висловила зацікавленість у регулюванні інструментів ШІ. В останні роки вона попереджала, що упереджені системи штучного інтелекту можуть спричинити примусові заходи. На цьому тижні голова FTC Ліна Хан заявила, що відомство буде шукати ознаки того, що великі діючі технологічні компанії намагаються заблокувати конкуренцію. Але розслідування щодо OpenAI ознаменує значну ескалацію в зусиллях FTC.
Джерело: www.mezha.media