Mokslininkai nustatė, kad dirbtinis intelektas išmoko meluoti ir manipuliuoti žmonėmis.

O neuroniniai tinklai sukčiavo net tada, kai jiems buvo draudžiama tai daryti.

Masačusetso technologijos instituto (MIT) mokslininkai nustatė, kad populiarūs generatyviniai neuroniniai tinklai įgijo gebėjimą meluoti. Dirbtinio intelekto sistemos naudoja apgaulę manipuliuodamos, kad pasiektų savo tikslus. Straipsnio autoriai analizavo kelių didelių neuroninių tinklų, kurie buvo apmokyti pagal žmogaus parašyto teksto duomenis, elgseną.

Iš tikrųjų pagrindas, kuriuo remiantis mokomi neuroniniai tinklai, slepia tokio elgesio priežastį. Juk dirbtinis intelektas remiasi žmonių sukurtais tekstais, o jie neprisideda prie sąžiningumo ugdymo.

Neuroninis tinklas CICERO tapo žymiausiu sukčiumi. Jis buvo apmokytas žaisti žaidimą „Diplomacy”. Šiame žaidime reikia užkariauti pasaulį, sudaryti sąjungas ir vesti daugybę derybų. Atskirai buvo pabrėžiama, kad CICERO užduotis buvo būti sąžiningam ir niekada sąmoningai nedurti sąjungininkams peilio į nugarą.

Nepaisant to, „Neural Net”, kuris pateko tarp dešimties procentų geriausių „Diplomacy” žaidėjų, siekdamas pergalės aktyviai naudojo manipuliacijas ir melą. Ji slapta derėjosi su keliais žaidėjais, dalijo neįmanomus pažadus ir supriešino juos tarpusavyje.

Ir ne tik CICERO pasirodė esanti gudri apgavikė. Kiti neuroniniai tinklai parodė gebėjimą blefuoti kortų žaidimuose, atlikti melagingus manevrus įvairiose kompiuterinėse strategijose. Be to, jie išmoko apgauti testus, skirtus sistemų saugumui įvertinti. Pavyzdžiui, neuroniniai tinklai „apsimetė mirusiais”, kad apgautų testą, skirtą greitai besidauginančioms dirbtinio intelekto sistemoms pašalinti.

Šiame dirbtinio intelekto gebėjime mokslininkai įžvelgia didelę potencialią grėsmę. Kalbame ne apie nekenksmingą melą, naudojamą žaidimuose, o apie bauginamesnę perspektyvą. Sudėtingesni neuroniniai tinklai gali išplėsti manipuliavimo žmonėmis ir įtakos jiems darymo metodus. O žmogus gali nesuvokti, kad juo manipuliuojama naudojant apgaulę. Nes tie patys neuroniniai tinklai gali sukurti saugumo ir kontrolės iliuziją, tapdami galingu informaciniu ginklu užpuolikų rankose.

Straipsnio autoriai pabrėžia, kad reikia sugalvoti būdų, kaip griežčiau reglamentuoti neuroninių tinklų naudojimą. Nes kyla pavojus, kad žmonės nespės kurti kovos su dirbtinio intelekto manipuliacijomis metodų, atsižvelgiant į spartų pastarojo vystymąsi.