Scottas Rothsteinas / „Shutterstock“. (Licencijuota)

Baltieji rūmai pristato „Teisių projektą“, skirtą apsaugoti nuo piktnaudžiavimo dirbtinio intelekto

„The Blueprint for an AI Bill of Rights – tai vadovas visuomenei, kuri saugo visus žmones nuo šių grėsmių“.

Baltieji rūmai antradienį paskelbė keletą gairių, skirtų apsaugoti Amerikos visuomenę nuo klestinčių technologijų, kuriose naudojamas dirbtinis intelektas (AI).

Gairės, vadinamos „ AI teisių įstatymo projektas “, daugiausia dėmesio skiriama su AI susijusioms problemoms, tokioms kaip duomenų privatumas ir šališki algoritmai.

Baltųjų rūmų mokslo ir technologijų politikos biuro pateiktame projekte technologijų įmonėms pateikiami penki principai, „kurie turėtų vadovautis automatizuotų sistemų projektavimu, naudojimu ir diegimu“.

„The Blueprint for an AI Bill of Rights – tai vadovas visuomenei, kuri saugo visus žmones nuo šių grėsmių ir naudoja technologijas taip, kad sustiprintų mūsų aukščiausias vertybes“, – sakoma pranešime spaudai. „Reaguojant į Amerikos visuomenės patirtį ir remiantis mokslininkų, technologų, advokatų, žurnalistų ir politikos formuotojų įžvalgomis, ši sistema yra kartu su „Nuo principų iki praktikos“ – vadovu visiems, norintiems įtraukti šias apsaugos priemones į politiką ir praktiką. įskaitant išsamius žingsnius, siekiant įgyvendinti šiuos principus technologinio projektavimo procese.

Pirmasis principas apima „saugias ir efektyvias sistemas“ ir reikalauja, kad automatizuotos sistemos būtų „kurtos konsultuojantis su įvairiomis bendruomenėmis, suinteresuotosiomis šalimis ir srities ekspertais, siekiant nustatyti problemas, riziką ir galimą sistemos poveikį“.

„Sistemos turi būti išbandytos prieš įdiegiant, rizikos nustatymas ir mažinimas bei nuolatinė stebėsena, įrodanti, kad jos yra saugios ir veiksmingos, atsižvelgiant į jų numatytą naudojimą, sumažinti nesaugius padarinius, įskaitant tuos, kurie nenaudojami pagal numatytą paskirtį, ir laikytis konkrečios srities standartų. gairėje teigiama. 'Šių apsaugos priemonių rezultatai turėtų apimti galimybę nediegti sistemos arba pašalinti ją iš naudojimo.'

Antrasis principas apibrėžia „algoritminę diskriminacijos apsaugą“, siekiant apsaugoti asmenis nuo kitokio elgesio, atsižvelgiant į įstatymų saugomas klasifikacijas, įskaitant rasę, odos spalvą, etninę kilmę, lytį, religiją, amžių ir tautinę kilmę.

„Automatinių sistemų projektuotojai, kūrėjai ir diegėjai turėtų imtis aktyvių ir nuolatinių priemonių, kad apsaugotų asmenis ir bendruomenes nuo algoritminės diskriminacijos ir teisingai naudotų bei projektuotų sistemas“, – teigiama pranešime spaudai.

Duomenų privatumas taip pat yra įtrauktas į penkis principus. Duomenų rinkimas, pasak Baltųjų rūmų, turėtų atitikti „pagrįstus lūkesčius“ ir nukreipti tik į informaciją, kuri yra „būtina“.

Įmonės raginamos prašyti naudotojų leidimo „dėl jūsų duomenų rinkimo, naudojimo, prieigos, perdavimo ir ištrynimo“.

„Jūs ir jūsų bendruomenės turėtų būti laisvi nuo nekontroliuojamo stebėjimo; stebėjimo technologijoms turėtų būti taikoma griežtesnė priežiūra, kuri apima bent jau galimos žalos įvertinimą prieš įdiegimą ir taikymo srities ribas, siekiant apsaugoti privatumą ir pilietines laisves“, – teigiama principe. „Nuolatinis stebėjimas ir stebėjimas neturėtų būti naudojami švietime, darbe, būstuose ar kituose kontekstuose, kur tokių stebėjimo technologijų naudojimas gali apriboti teises, galimybes ar prieigą.

Ketvirtasis principas, pavadintas „Pastaba ir paaiškinimas“, teigia, kad vartotojai turėtų žinoti, ar įmonė naudoja automatizuotą sistemą, pateikdami „paprastai prieinamą dokumentaciją paprasta kalba“, kurioje yra „aiškūs sistemos veikimo aprašymai“. .

„Automatinės sistemos turėtų pateikti paaiškinimus, kurie yra techniškai pagrįsti, prasmingi ir naudingi jums ir visiems operatoriams ar kitiems, kurie turi suprasti sistemą, ir suderinti su rizikos lygiu, atsižvelgiant į kontekstą“, – teigė Baltieji rūmai.

Penktasis ir paskutinis principas yra išvardytas kaip „Žmogaus alternatyvos, svarstymas ir atsargos“ ir teigia, kad vartotojai turėtų turėti galimybę atsisakyti automatinių sistemų „naudodami žmogaus alternatyvą“.

„Jeigu automatizuota sistema sugenda, padaro klaidą arba norite pateikti apeliaciją arba ginčyti dėl jos poveikio jums, turėtumėte turėti prieigą prie savalaikio žmogaus svarstymo ir ištaisymo, naudojant atsarginį ir eskalavimo procesą“, – teigiama projekte. „Žmogaus dėmesys ir atsarginės priemonės turėtų būti prieinami, nešališki, veiksmingi, prižiūrimi, kartu su atitinkamu operatorių mokymu ir neturėtų kelti nepagrįstos naštos visuomenei.

Baltieji rūmai teigia, kad penki principai, jei jie bus taikomi, gali „sudaryti sutampančius apsaugos nuo galimos žalos rinkinius“.

„Ši tikslingai persidengianti sistema, vertinant kaip visumą, sudaro planą, padedantį apsaugoti visuomenę nuo žalos“, – sakoma pranešime spaudai. „Priemonės, kurių imamasi siekiant įgyvendinti šioje sistemoje išdėstytą viziją, turėtų būti proporcingos žalos arba žalos rizikos žmonių teisėms, galimybėms ir prieigai mastui ir pobūdžiui.

Skaitykite daugiau apie „Daily Dot“ technologijas ir politiką