REIKALINGA JŪSŲ PARAMA

Buvęs „Google” mokslininkas apie dirbtinio intelekto keliamus pavojus: turime dėl ko nerimauti

ŠaltinisCNA

Žymus dirbtinio intelekto tyrėjas, kurį kai kas vadina dirbtinio intelekto krikštatėviu, sako, kad ši technologija vystosi bauginančiu greičiu, ir perspėja, kad jos plėtra neturėtų viršyti mūsų galimybių ją kontroliuoti. Jis prisideda prie daugelio lyderių, įskaitant popiežių Pranciškų, norinčių užtikrinti, kad etinės problemos būtų integruotos į technologijos pagrindą.

Geoffrey Hintonas (Džefris Hintonas), ilgametis „Google” tyrėjas, neseniai išėjo į pensiją sulaukęs 75 metų. Jis prisideda prie tų, kurie teigia, kad galimi naujosios technologijos pavojai nusipelno kruopštaus patikrinimo.

Tokia programinė įranga kaip pokalbių robotų sistema GPT-4, kurią sukūrė San Francisko pradedančioji įmonė „OpenAI”, „bendrųjų žinių kiekiu nustelbia žmogų ir gerokai jį lenkia”, – sakė G. Hintonas „BBC News”. „Kalbant apie samprotavimus, ji nėra tokia gera, tačiau ji jau atlieka elementarius samprotavimus.”

„Ir atsižvelgiant į pažangos tempą, tikimės, kad viskas gana greitai pagerės. Taigi turime dėl to nerimauti”, – sakė jis.

G. Hintono nuomone, šios kuriamos dirbtinio intelekto sistemos labai skiriasi nuo programinės įrangos, kurią žmonės yra įpratę naudoti.

„Padariau išvadą, kad mūsų kuriamas intelektas labai skiriasi nuo mūsų turimo intelekto”, – sakė jis. Skirtingai nuo biologinio intelekto, pavyzdžiui, žmogaus, gali būti daugybė tų pačių skaitmeninių sistemų kopijų su tais pačiais pasaulio modeliais. Nors jos gali mokytis atskirai, savo žiniomis dalijasi „akimirksniu”.

Taigi, tai tarsi turėtumėte 10 tūkst. žmonių, ir kai vienas žmogus ką nors išmoktų, visi automatiškai tai žinotų. Taip šie pokalbių robotai gali žinoti daug daugiau nei bet kuris vienas žmogus”, – sakė G. Hintonas.

Jo nuomone, vienas iš „blogiausio atvejo” arba „košmaro” scenarijų yra jei robotas būtų sukuriamas ir jam būtų suteikta galimybė susikurti savo subtilius tikslus. Tada jis galėtų nuspręsti, kad jo tikslas turėtų būti maksimizuoti savo galią.

Kiti tyrėjai išreiškė susirūpinimą, kad šios dirbtinio intelekto sistemos kelia riziką trumpuoju, vidutinės trukmės ir ilguoju laikotarpiu. Pirminiai pavojai – tai žmonių klaidingas pasitikėjimas veiksmingesne ir įtikinamesne dezinformacija, įskaitant dirbtinio intelekto įtikinamai pateiktą melagingą informaciją. Apgaudinėtojai ir nusikaltėliai gali sukurti netikrus telefono skambučius, imituojančius giminaičio, teigiančio, kad jam gresia pavojus ir skubiai reikia pinigų, balsą.

Neseniai popiežius Pranciškus tapo plačiai paplitusios kompiuteriu sukurtos suklastotos nuotraukos objektas. Popiežiaus, dėvinčio stilingą baltą pūkinį paltą, atvaizdas paplito socialiniuose tinkluose, o daugelis žmonių, atrodo, netikrą nuotrauką supainiojo su autentiška nuotrauka.

Kai kurie baiminasi, kad jei dirbtinis intelektas sėkmingai automatizuos daugiau užduočių, kurias šiuo metu atlieka žmonės, gali kilti nedarbo problema. Interneto turinio moderatoriai, advokatų padėjėjai, asmeniniai asistentai ir vertėjai gali patirti spaudimą arba būti pakeisti, rašė „New York Times”.

Ilgalaikė rizika, pavyzdžiui, kad dirbtinio intelekto sistemos išvengs žmogaus kontrolės ir net sunaikins žmoniją, jau seniai tapo pagrindiniu mokslinės fantastikos kūriniu. Kai kurie ekspertai nurodo netikėtą šiuo metu kuriamų dirbtinio intelekto sistemų elgesį. Jei dirbtinio intelekto sistemos bus susietos su kitomis interneto paslaugomis ir taps tokios galingos, kad galės rašyti savo kodą ir pačios save modifikuoti, nekontroliuojamas dirbtinis intelektas gali tapti realiu pavojumi.

Popiežius Pranciškus yra sakęs, kad mokslas ir technologijos turi praktinės naudos ir liudija žmogaus gebėjimą „atsakingai dalyvauti Dievo kūrybiniame veikime”.

„Žvelgiant iš šios perspektyvos, – sakė popiežius kovo 27 d. Vatikano audiencijoje, – esu įsitikinęs, kad dirbtinio intelekto ir mašininio mokymosi vystymasis gali teigiamai prisidėti prie žmonijos ateities; negalime jo atmesti.”

„Kartu esu įsitikinęs, kad šis potencialas bus įgyvendintas tik tuo atveju, jei šias technologijas kuriantys asmenys nuolat ir nuosekliai įsipareigos elgtis etiškai ir atsakingai”, – sakė jis.

Šios pastabos nuskambėjo Vatikane vykusioje audiencijoje su „Minervos dialogų”, į skaitmenines technologijas orientuoto mokslininkų, inžinierių, verslo lyderių, teisininkų, filosofų, katalikų teologų, etikos specialistų ir Romos kurijos narių susitikimo dalyviais.

Popiežius ragino šiuos lyderius vertinant naujas technologijas pagrindiniu kriterijumi laikyti „prigimtinį kiekvieno vyro ir kiekvienos moters orumą”.

Daugiau.

SUSIJĘ STRAIPSNIAI

5 KOMENTARAI

REKOMENDUOJAME

Patreon paramos skydelis
Patreon paramos skydelis
Patreon paramos skydelis
Paypal paramos skydelis
banko paramos skydelis
eyJhbGwiOiJiYW5rbyBwYXJhbW9zIHNreWRlbGlzIiwicG9ydHJhaXQiOiJ0YXB0aSBzYXZhbm9yaXUifQ==
eyJhbGwiOiJiYW5rbyBwYXJhbW9zIHNreWRlbGlzIiwicG9ydHJhaXQiOiJwcmFuZSJ9

NAUJAUSI

Būtume dėkingi, jei mus paremtumėte