Развој све моћнијих система вештачке интелигенције убрзава, али безбедносни механизми и правила која би требало да ограниче њихове ризике не напредују истим темпом. Управо због тога високи комесар Уједињених нација за људска права Волкер Турк упозорио је да напредна вештачка интелигенција у будућности може представљати „егзистенцијални ризик за човечанство“.
Турк је 7. септембра, говорећи на заседању Савета УН за људска права у Женеви, позвао државе и технолошке компаније да успоставе чврсте гаранције за безбедност најмоћнијих AI система пре него што њихове способности додатно порасту. Он је најавио и разговоре са компанијама из индустрије о мерама за смањење ризика.
Опасност није само теоријска
Према упозорењу УН, потенцијални проблеми не односе се само на могући губитак контроле над будућим системима. Моћна вештачка интелигенција могла би да изазове поремећаје у критичној инфраструктури, комуникацијама и демократским институцијама уколико њено понашање измакне предвиђеним механизмима контроле.
Као један од примера у расправи о безбедности AI система помињан је и јулски инцидент повезан са платформом Hugging Face. Туркова канцеларија га је навела као пример понашања AI агената које показује колико брзо напредују способности система и колико је важно да заштитни механизми прате тај развој.
Посебну пажњу привлачи и могућност да све аутономнији системи буду коришћени у областима у којима грешка може имати озбиљне последице. Турк је зато поново указао на опасност од система наоружања који би могли самостално да доносе одлуке о одузимању људског живота без непосредне људске контроле.
Неколико компанија контролише најнапреднију технологију
Једно од питања које УН поставља јесте и концентрација моћи у рукама релативно малог броја технолошких компанија.
Турк је упозорио да ограничен број људи има огроман утицај на развој најнапреднијих AI система, због чега је позвао државе да договоре заједничке „црвене линије“ – јасне границе које не би смеле да буду пређене у развоју и примени вештачке интелигенције. Затражио је и независну проверу безбедности система, као и већу сарадњу компанија на питањима заштите.
Ово питање више није само тема технолошке индустрије. УН све више повезује развој AI са људским правима, тржиштем рада, демократијом, безбедношћу и заштитом животне средине.
Гутереш: AI међу три егзистенцијалне претње
Само неколико дана касније, 16. септембра, генерални секретар УН Антонио Гутереш уочи Генералне скупштине издвојио је вештачку интелигенцију као једну од три велике егзистенцијалне претње са којима се свет суочава, уз климатску кризу и продубљивање неједнакости.
УН је претходно објавио и прелиминарни извештај независног Међународног научног панела за AI. У њему се наводи да постојећи механизми заштите не успевају да прате брзину раста могућности вештачке интелигенције. Панел се бави ризицима који обухватају безбедност, економију, људска права, демократију, поузданост система и управљање AI технологијом.
Управо због тога Уједињене нације све снажније заговарају међународну сарадњу и заједничка правила. Како развој вештачке интелигенције није ограничен границама једне државе, питање безбедности све више постаје глобално питање.
Ипак, упозорење УН не значи да је сценарио у којем AI уништава човечанство извесан. Реч је о процени потенцијалног ризика и позиву да се мере заштите успоставе пре него што системи постану још способнији и сложенији.