Pionierul în domeniul inteligenței artificiale a tras un semnal de alarmă, subliniind că societatea se îndreaptă rapid către un moment crucial în gestionarea riscurilor asociate cu această tehnologie. Potrivit acestuia, avansul rapid al tehnologiei necesită măsuri globale extraordinare, similare cu cele adoptate la începutul pandemiei de COVID.
Îngrijorări globale cu privire la siguranța AI
Yoshua Bengio, unul dintre „nașii” inteligenței artificiale, a menționat că guvernele încep să conștientizeze necesitatea de a interveni pentru a proteja populația, similar cu reacția la pandemia de COVID. Recent, o serie de evenimente, printre care și atacuri cibernetice efectuate de agenți OpenAI asupra unor startup-uri, au amplificat aceste temeri, făcând mai probabilă o reacție din partea autorităților.
Bengio a afirmat că, în prezent, este „mai optimist decât mulți observatori, pentru că văd că publicul se mișcă”. El a comparat situația actuală cu începutul pandemiei de COVID, subliniind rapiditatea cu care guvernele au intervenit atunci când au realizat că siguranța publică era în pericol. „Te-ai fi așteptat să acționeze rapid. Așadar, cred că ne apropiem de acel punct,” a declarat el.
Scrisoare deschisă din partea cercetătorilor
În ultimele luni, îngrijorările legate de amenințările potențiale ale sistemelor avansate de inteligență artificială au crescut semnificativ, în urma unor incidente de securitate care au implicat agenți OpenAI și Anthropic. Aceste incidente au inclus piraterii de date și utilizarea identităților false pentru a induce în eroare dezvoltatorii. Această situație a determinat 42 de membri străini ai Societății Regale din Marea Britanie să îi scrie președintelui organizației, Sir Paul Nurse, exprimându-și „îngrijorarea extremă” față de ritmul rapid al dezvoltării inteligenței artificiale.
În scrisoarea deschisă, cercetătorii au avertizat că „până când situația va deveni evidentă pentru publicul larg, s-ar putea să fie prea târziu să acționăm”. Ei au solicitat Societății Regale să folosească influența sa pentru a transmite aceste preocupări guvernului și mass-mediei. Recent, un cercetător de la Anthropic a demisionat, afirmând că colegii săi considerau că inteligența artificială ar putea „ucide pe toți până la sfârșitul deceniului”.
Pe de altă parte, directorul executiv al Anthropic, Dario Amodei, a cerut o încetinire a dezvoltării inteligenței artificiale de ultimă generație, propunere susținută imediat de OpenAI, Google și Elon Musk, CEO-ul SpaceX.
Sursa articol: https://newsweek.ro/economie/avertismentul-nasului-ai-controlul-tehnologiei-ajunge-punct-critic-similar-pandemia-covid
Sursa foto: Inquam Photos
