Se pare că o lună nu va trece fără ca o persoană de înaltă atenție să comenteze potențialul ca mașinile cu Inteligență Artificială să preia lumea. Elon Musk este în evidență afirmând că sistemele de AI sunt „potențial mai periculoase decât nukerii.” Dar el nu este singurul, Stephen Hawking este de asemenea preocupat, „Dezvoltarea inteligenței artificiale depline ar putea vrăji sfârșitul rasei umane”. Profesorul Hawking a declarat pentru BBC. „S-ar decola pe cont propriu și s-ar re-proiecta într-un ritm tot mai mare.” Chiar și Bill Gates este îngrijorat: „Sunt în tabăra care este preocupat de super-inteligență. Sunt de acord cu Elon Musk și cu alții în acest sens și nu înțeleg de ce unii oameni nu sunt preocupați. ”

Toți exprimă îngrijorarea cu privire la posibilitatea ca sistemele AI puternice să aibă consecințe nedorite sau chiar potențial dezastruoase. În ianuarie, Elon Musk a donat 10 milioane de dolari Institutului Viitorul Vieții (FLI) pentru a derula un program de cercetare globală, menit să mențină AI benefică pentru umanitate.

Astăzi, Institutul Viitorul Vieții a anunțat că a acordat 7 milioane de dolari în fonduri către 37 de echipe de cercetare din întreaga lume, astfel încât societatea să poată profita de beneficiile AI, evitând în același timp apocalipsa și sfârșitul vieții pe pământ.

Pericolul cu scenariul Terminator nu este acela că se va întâmpla, ci că distrage atenția de la problemele reale pe care le prezintă viitoarele AI.

Jaan Tallin, unul dintre membrii fondatori ai FLI și tipul care a scris versiunea inițială a Skype, a declarat despre noua cercetare, „construirea AI avansată este ca și cum ai lansa o rachetă. Prima provocare este de a maximiza accelerația, dar odată ce începe să ridice viteza, trebuie să vă concentrați și pe direcție. "

Printre cele 37 de proiecte se numără trei proiecte care vor analiza tehnici pentru a permite sistemelor AI să învețe ce preferă oamenii de a respecta comportamentul nostru. Unul dintre aceste proiecte va fi derulat la UC Berkeley, iar unul va fi la Universitatea Oxford.

Benja Fallenstein, la Institutul de Cercetări pentru Informații despre Mașini, primește 250.000 de dolari pentru a căuta modalități de a menține interesele sistemelor superinteligente aliniate la valorile umane. În timp ce echipa lui Manuela Veloso, de la Universitatea Carnegie-Mellon, va primi 200.000 de dolari pentru a analiza modul în care sistemele AI vor explica deciziile lor oamenilor.

Alte proiecte includ un studiu realizat de Michael Webb, de la Universitatea Stanford, despre cum să păstreze impactul economic al AI, un proiect despre cum să menții armele conduse de AI sub un „control uman semnificativ” și un nou centru de cercetare Oxford-Cambridge pentru studiul AI -politica relevantă.

Acesta este ultimul mare jackpot. Noul centru numit „Centrul de Cercetare Strategică pentru Inteligență Artificială” va fi condus de Nick Bostrom, tipul care a scris cartea care l-a determinat pe Elon să intre în panică cu privire la viitorul omenirii. Pentru a înființa centrul, FLI acordă lui Bostrom o valoare de 1,5 milioane de dolari. Cine a spus că nu există bani pentru a scrie chestii despre roboții care preiau lumea? Ei bine, nimeni, doar uită-te la câți bani câștigă Hollywood-ul din acel gen!

Vorbind despre Hollywood, FLI încearcă să se despartă de apocalipsă. FLI dorește să sublinieze importanța separarii faptului de ficțiune. „Pericolul cu scenariul Terminator nu este că se va întâmpla, ci că distrage de la problemele reale pe care le pune viitorul AI”, a declarat președintele FLI, Max Tegmark. „Ne rămânem concentrați, iar cele 37 de echipe susținute de subvențiile de astăzi ar trebui să contribuie la rezolvarea unor astfel de probleme reale.”

Tu ce crezi? Banii bine cheltuiți?