Un nou generator de texte automate este prea periculos pentru a fi lansat public, susțin creatorii

De A.M.
Un nou generator de texte automate este prea periculos pentru a fi lansat public, susțin creatorii
© foto: www.pixabay.com
Reprezentanții compania nonprofit OpenAI, susținută financiar de Elon Musk, spun că nu vor lansa pentru moment noul generator de texte, de teamă ca nu cumva să fie folosit în scopuri periculoase.

Creatorii noului sistem revoluționar, care folosește inteligența artificială pentru a scrie știri sau a inventa povești – au luat o măsură neașteptată și nu vor pune încă noua unealtă la dispoziția publicului.

OpenAI este o companie nonprofit de cercetare, susținută financiar de Elon Musk. Noul ei model de AI, numit GPT2, este atât de performant încât riscurile de a fi folosit în scopuri mai puțin bune este foarte mare.

La bază, GPT2, este un generator de texte. Sistemul AI primește un text – câteva cuvinte sau o întreagă pagină – apoi i se cere să îl continue, prezicând ce va urma. Sistemul împinge limitele posibilului, atât din punct de vedere al calității textelor, cât și al varietății de domenii în care poate fi folosit.

Atunci când primește un text simplu, GPT2 este capabil să imite stilul și să rescrie un text similar, fără erorile care apar la alte sisteme bazate pe inteligența artificială.

Problemele nu apar neapărat în privința textelor fictive pe care sistemul le poate scrie cu ușurință, ci în privința ”știrilor” false, a mesajelor spam sau a textelor periculoase (teorii ale conspirațiilor, recenzii false) pe care le poate genera.

Un test în care GPT2 a primit titlul unei știri legate de Brexit, arată cum sistemul poate scrie o știre artificială, presărată cu citate ale politicienilor și chiar și concluzii. Atunci când i s-a cerut să imite o recenzie a unui produs vândut online, GPT2 a generat mai multe texte similare, care păreau scrise de un om.

Astfel, înainte de a lansa oficial generatorul de texte, cei implicați spun că mai trebuie să studieze impactul și ramificațiile unei astfel de tehnologii, relatează The Guardian.



0Comentarii

Herzlichen Dank für Ihren Kommentar - dieser wird nach einer Prüfung von uns freigeschaltet. Beachten Sie, dass dies gerade an Wochenenden etwas länger dauern kann. Kommentare von registrierten Usern werden sofort freigeschaltet - hier registrieren!

inca 1000 caractere ramase

Citiți principiile noastre de moderare aici !