OpenAI

organizzazione di ricerca no-profit sull'intelligenza artificiale

OpenAI è un laboratorio di ricerca sull'intelligenza artificiale costituito dalla società no-profit OpenAI, Inc. e dalla sua sussidiaria for-profit OpenAI, L.P.[2][3] L'obiettivo della ricerca è promuovere e sviluppare un'intelligenza artificiale amichevole (friendly AI) in modo che l'umanità possa trarne beneficio.

OpenAI
Logo
Logo
StatoBandiera degli Stati Uniti Stati Uniti
Fondazione10 dicembre 2015
Fondata da
Sede principaleSan Francisco
GruppoMicrosoft[1]
Persone chiave
Sito webopenai.com

Fondata il 10 dicembre 2015, l'organizzazione, con sede a San Francisco,[4] ha lo scopo di "collaborare liberamente" con altre istituzioni e ricercatori rendendo i suoi brevetti e ricerche aperti al pubblico.[5][6]

I fondatori (tra cui Elon Musk e Sam Altman) sono stati motivati in parte dai rischi esistenziali derivanti dall'intelligenza artificiale generale.[7][8]

Storia modifica

Nell'ottobre del 2015, Musk, Altman e altri investitori annunciarono la formazione dell'organizzazione donando oltre 1 miliardo di dollari all'impresa.[5]

Il 27 aprile 2016, OpenAI ha rilasciato una versione beta pubblica di "OpenAI Gym", piattaforma per ricerca di apprendimento per rinforzo.[9]

Il 5 dicembre 2016, OpenAI ha rilasciato Universe, un software che misura e allena l'intelligenza generale di una IA tramite giochi, siti web e altre applicazioni.[10][11][12][13]

Il 21 febbraio 2018, Musk si è dimesso dal consiglio di amministrazione, per "un potenziale futuro conflitto di interessi" con la IA di Tesla per le automobili a guida autonoma; è rimasto un donatore.[14]

Nel 2018, OpenAI ha sede nel Mission District di San Francisco, dove condivide un edificio con Neuralink, un'altra azienda co-fondata da Musk.[15][16]

Nel 2023, il consiglio ha rimosso Altman dalla carica di CEO, mentre Brockman è stato rimosso dalla carica di presidente e poi si è dimesso da presidente. Quattro giorni dopo, entrambi sono tornati dopo le trattative con il consiglio e la maggior parte dei membri del consiglio si è dimessa. Il nuovo consiglio iniziale comprende l'ex co-CEO di Salesforce Bret Taylor come presidente[17] e Microsoft, con un posto nel consiglio senza diritto di voto.[18]

Partecipanti modifica

Altri finanziatori del progetto:[20]

Lo staff di altro profilo:

Il gruppo si avviò a gennaio 2016 con nove ricercatori. Secondo WIRED, Brockman incontrò Yoshua Bengio, uno dei "padri fondatori" del campo di ricerca dell'apprendimento profondo (deep learning), e stilò una lista dei "migliori ricercatori nel campo". Peter Lee, di Microsoft, affermò che il costo di ricercatore di punta di IA supera il costo di uno dei migliori quarterback del NFL. Anche se OpenAI paga stipendi a livello di azienda (non a livello di non-profit), attualmente gli stipendi dei ricercatori di IA non sono paragonabili a quelli di Facebook o Google. Cionondimeno, Sutskever affermò che era disponibile a lasciare Google a favore di OpenAI "in parte a causa un gruppo molto forte di persone e, in larga misura, a causa della sua missione." Brockman affermò che "la cosa migliore che posso immaginare di fare è avvicinare l'umanità alla costruzione di un'IA reale in modo sicuro." Wojciech Zaremba, ricercatore di OpenAI, affermò che declinò offerte "al limite della pazzia", di due o tre volte più alte del suo valore di mercato, per prendere parte a OpenAI.[8]

Motivazioni modifica

Alcuni scienziati, tra cui Stephen Hawking e Stuart Russell, credettero che se un'intelligenza artificiale avanzata ottenesse l'abilità di riprogettarsi da sola a una velocità sempre più elevata, una "esplosione di intelligenza" inarrestabile porterebbe all'estinzione dell'umanità. Musk definisce l'IA come la "minaccia più grande per l'esistenza" del genere umano.[21] OpenAI è stata strutturata come non profit cosicché i fondatori possano concentrarsi nella ricerca di un impatto positivo a lungo termine.[5]

OpenAI afferma che "è difficile rendersi conto di quanto la società possa beneficiare di una IA al livello umano", e che è ugualmente difficile comprendere "quanto possa essere danneggiata se prodotta o usata incorrettamente".[5] Le ricerche sulla sicurezza non possono essere posticipate: "a causa della sorprendente storia della IA, è difficile predire quando arriverà l'IA al livello umano".[22] OpenAI afferma che l'IA "dovrebbe essere un'estensione della volontà umana individuale e, nello spirito della libertà, distribuita il più ampiamente e equamente possibile..."[5], e questo pensiero è stato espresso in un'altra circostanza, in riferimento a una classe potenzialmente enorme di prodotti con IA: "Siamo disposti a lasciare che la nostra società sia infiltrata da software autonomo e hardware i dettagli dei quali sono noti solo a pochi scelti? Naturalmente no".[23] Il co-presidente Sam Altman si aspetta che questo progetto che dura decenni sorpasserà l'intelligenza umana[24].

Vishal Sikka, precedente CEO di Infosys, affermò che un requisito fondamentale per il suo contributo sarebbe stato il fatto di tenere l'azienda "aperta mentalmente" per "produrre risultati nell'interesse dell'umanità in generale". Inoltre disse che OpenAI "si allinea molto bene con i loro valori di lunga data" e il loro "sforzo di fare un lavoro significativo".[25] Cade Metz di Wired suggerisce che società come Amazon potrebbero essere motivate da un desiderio di usare software open source e dati per livellare il campo contro altre società come Google e Facebook che possiedono enormi quantità di dati proprietari. Altman afferma che Y Combinator condividerà i dati con OpenAI.[24]

Strategia modifica

Musk pose questa domanda: "Cosa è la cosa migliore che possiamo fare per assicurare che il futuro sia buono? Potremmo stare nelle retrovie o possiamo incoraggiare un controllo normativo, o potremmo partecipare con la giusta struttura con persone interessate profondamente a sviluppare IA in un modo sicuro e vantaggioso per l'umanità." Musk riconobbe che "c'è sempre qualche rischio che nel progredire con l'IA (amichevole) si possa creare la cosa di cui siamo preoccupati"; cionondimeno, la miglior difesa è "dare il potere dell'IA a più persone possibile. Se tutti hanno l'IA, allora non c'è nessun individuo o piccolo gruppo di individui che ha l'IA con superpoteri".[20]

La strategia anti-intuitiva di Musk e Altman di pensare di ridurre il rischio che l'IA causerà danni, dando l'IA a chiunque, è controversa tra coloro i quali sono preoccupati dal rischio di estinzione umana da parte dell'intelligenza artificiale. Il filosofo Nick Bostrom è scettico circa l'approccio di Musk: "Se hai un pulsante che potrebbe fare brutte cose al mondo, non vuoi darlo a tutti."[8] Durante una conversazione nel 2016 circa la singolarità tecnologica, Altman disse: "non abbiamo in mente di rilasciare tutto il codice sorgente" e ha fatto menzione di un piano per "permettere a vaste aree del mondo di eleggere rappresentanti per un consiglio di amministrazione" Greg Brockman dichiarò: "Il nostro scopo or ora [...] è fare la cosa migliore da fare. È un po' vago."[26]

In un post sul suo blog personale, Gates ha definito l'intelligenza artificiale il più importante progresso degli ultimi decenni al pari del microprocessore, del personal computer, di Internet e del telefono cellulare.[27]

Prodotti modifica

Gym modifica

Gym mira a offrire un benchmark di intelligenza generale facile da impostare, con un'ampia varietà di ambienti differenti - in qualche modo affini a, ma più ampi di, il "ImageNet Large Scale Visual Recognition Challenge" usato nelle ricerche riguardanti l'apprendimento supervisionato - e che spera di standardizzare il modo in cui sono definiti gli ambienti negli articoli scientifici sull'intelligenza artificiale, cosicché le ricerche pubblicate possano essere riprodotte più facilmente.[14][28] Il progetto afferma di fornire all'utente un'interfaccia semplice. A giugno 2017, la gym poteva essere usata solo con Python.[29] A settembre 2017, il sito di documentazione della gym non era più mantenuto, e il lavoro si concentrò nella pagina di GitHub.[30]

RoboSumo modifica

In “RoboSumo”, ci sono dei robot umanoidi in “meta-apprendimento” che inizialmente non sanno neanche come camminare e, gli vengono dati gli scopi di camminare e di spingere l'avversario fuori dal ring. Tramite questo processo di apprendimento antagonistico, riescono ad adattarsi alle condizioni variabili; quando un agente è rimosso dall'ambiente virtuale e collocato in un nuovo ambiente con un forte vento, l'agente si tiene per stare dritto, il che fa capire che ha imparato come stare in equilibrio in generale.[31][32] Igor Mordatch, di OpenAI, sostiene che la competizione tra agenti può creare una "corsa agli armamenti" di intelligenza che può incrementare l'abilità dell'agente, anche al di fuori del contesto della competizione.

Debate Game modifica

Nel 2018, OpenAI ha lanciato il "Debate Game", che insegna alle macchine a discutere di fronte a un giudice umano. Lo scopo è fare ricerca sul fatto che questo approccio possa aiutare nel controllare le decisioni dell'IA e nel sviluppare IA interpretabile (explainable AI), ossia un'intelligenza le cui azioni sono comprensibli da un umano.[33][34]

OpenAI Five modifica

OpenAI Five è il nome di cinque bot, curati da OpenAI. usati in Dota 2, videogioco competitivo 5 contro 5; imparano a giocare contro giocatori umani ad alto livello tramite algoritmi trial and error. Prima di diventare un team di cinque, la prima dimostrazione pubblica avvenne al The International 2017, il torneo annuale del gioco, dove Dendi, un videogiocatore professionista ucraino, ha perso contro il bot in una partita in diretta uno contro uno.[35][36] Dopo la partita, il CTO Greg Brockman ha spiegato che il bot ha imparato a giocare contro se stesso per due settimane, e che il software di apprendimento era un passo avanti verso creare software che può occuparsi di problemi complessi "come essere un chirurgo".[37][38] Il sistema usa una forma di apprendimento per rinforzo, nel quale i bot imparano giocando contro se stessi per centinaia di volte al giorno per mesi, ed essendo premiati per azioni come uccidere un nemico o distruggere torri.[39][40][41] A giugno 2018, l'abilità dei bot è cresciuta fino a giocare insieme come una squadra di cinque e a battere squadre di amatori o semiprofessionisti.[39][42][43][44] Al The International 2018, OpenAI Five ha giocato due partite contro giocatori professionisti.[45][46] Sebbene i bot abbiano perso entrambe le volte, OpenAI lo considera un successo, e hanno affermato che giocare contro qualcuno dei migliori giocatori di Dota 2 ha permesso loro di analizzare e migliorare gli algoritmi per le partite future.[47]

Dactyl modifica

Dactyl usa l'apprendimento automatico per allenare un robot Shadow Hand da zero, usando lo stesso algoritmo di apprendimento per rinforzo che usa OpenAI Five. La mano robot è allenata interamente in simulazioni non precise dal punto di vista fisico.[48][49]

GPT2 modifica

GPT2 è un sistema di IA che genera del testo tramite un tono e un argomento. Per esempio, quando gli è stata data in input la prima frase del romanzo 1984 di George Orwell, ha prodotto un racconto di un futuro plausibile ambientato in Cina. A differenza dei precedenti prodotti di OpenAI, GPT2 non è stato diffuso subito al pubblico per evitarne un uso illecito, ad esempio la scrittura di notizie false.[50]

DALL-E modifica

  Lo stesso argomento in dettaglio: DALL-E.

DALL-E è un sistema di IA che genera immagini tramite una descrizione testuale.[51]

ChatGPT modifica

  Lo stesso argomento in dettaglio: ChatGPT.

ChatGPT è una chatbot basata su intelligenza artificiale specializzata nel dialogo uomo-macchina.

Note modifica

  1. ^ (EN) Karen Weise, How Microsoft's Satya Nadella Kept the 'Best Bromance in Tech' Alive, in The New York Times, 20 novembre 2023 (archiviato dall'url originale il 30 novembre 2023).
  2. ^ opencorporates.com, https://opencorporates.com/companies/us_de/5902936. URL consultato il 25 settembre 2023.
  3. ^ Richard Waters, OpenAI turns itself into a for-profit enterprise, in Financial Times, 12 marzo 2019. URL consultato il 25 settembre 2023.
  4. ^ (EN) John Markoff, Artificial-Intelligence Research Center Is Founded by Silicon Valley Investors, in The New York Times, 11 dicembre 2015. URL consultato l'8 gennaio 2019.
  5. ^ a b c d e (EN) Tech giants pledge $1bn for 'altruistic AI' venture, OpenAI, in BBC, BBC News, 12 dicembre 2015. URL consultato il 19 dicembre 2015.
  6. ^ (EN) Introducing OpenAI, su blog.openai.com, 12 dicembre 2015.
  7. ^ (EN) Max Lewontin, Open AI: Effort to democratize artificial intelligence research?, in The Christian Science Monitor, 14 dicembre 2015. URL consultato il 19 dicembre 2015.
  8. ^ a b c (EN) Cade Metz, Inside OpenAI, Elon Musk’s Wild Plan to Set Artificial Intelligence Free, su wired.com, WIRED, 27 aprile 2016. URL consultato il 31 dicembre 2016.
  9. ^ (EN) Dave Gershgorn, Elon Musk's Artificial Intelligence Group Opens A 'Gym' To Train A.I., in Popular Science, 27 aprile 2016.
  10. ^ (EN) Cade Metz, Elon Musk’s Lab Wants to Teach Computers to Use Apps Just Like Humans Do, su wired.com, WIRED. URL consultato il 31 dicembre 2016.
  11. ^ (EN) John Mannes, OpenAI’s Universe is the fun parent every artificial intelligence deserves, su techcrunch.com, TechCrunch. URL consultato il 31 dicembre 2016.
  12. ^ (EN) OpenAI - Universe, su universe.openai.com. URL consultato il 31 dicembre 2016 (archiviato dall'url originale il 1º gennaio 2017).
  13. ^ (EN) Thomas Claburn, Elon Musk-backed OpenAI reveals Universe – a universal training ground for computers, su theregister.co.uk, The Register. URL consultato il 31 dicembre 2016.
  14. ^ a b (EN) James Vincent, Elon Musk leaves board of AI safety group to avoid conflict of interest with Tesla, su The Verge, 21 febbraio 2018. URL consultato il 31 dicembre 2018.
  15. ^ (EN) Kate Conger, Elon Musk's Neuralink Sought to Open an Animal Testing Facility in San Francisco, in Gizmodo. URL consultato il 31 dicembre 2018.
  16. ^ (EN) John Markoff, Artificial-Intelligence Research Center Is Founded by Silicon Valley Investors, su nytimes.com, The New York Times, 11 dicembre 2015.
  17. ^ (EN) OpenAI brings Sam Altman back as CEO less than a week after he was fired by board, su CNBC, 22 novembre 2023. URL consultato il 7 gennaio 2024.
  18. ^ (EN) Microsoft secures nonvoting board seat at OpenAI, su CNBC, 30 novembre 2023. URL consultato il 7 gennaio 2024.
  19. ^ a b c (EN) Michael Liedtke, Elon Musk, Peter Thiel, Reid Hoffman, others back $1 billion OpenAI research center, in San Jose Mercury News, 15 dicembre 2015. URL consultato il 7 gennaio 2019.
  20. ^ a b c (EN) John Markoff, Silicon Valley investors to bankroll artificial-intelligence center, in The Seattle Times, 13 dicembre 2015. URL consultato il 5 gennaio 2019.
  21. ^ (EN) Anthony Patch, Elon Musk Artificial Intelligence could be our biggest existential threat 720p, su youtube.com, 10 marzo 2018. URL consultato il 31 dicembre 2018.
  22. ^ (EN) Jessica Mendoza, Tech leaders launch nonprofit to save the world from killer robots, su csmonitor.com, The Christian Science Monitor.
  23. ^ (EN) Glenn W. Smith, Re: Sex-Bots—Let Us Look before We Leap, su mdpi.com, Arts, 10 aprile 2018.
  24. ^ a b (EN) Cade Metz, Elon Musk’s Billion-Dollar AI Plan Is About Far More Than Saving the World, in Wired, 15 dicembre 2015.
    «“Altman said they expect this decades-long project to surpass human intelligence.”»
  25. ^ (EN) Vishal Sikka, OpenAI: AI for All, su InfyTalk, Infosys, 14 dicembre 2015 (archiviato dall'url originale il 22 dicembre 2015).
  26. ^ (EN) Tad Friend, Sam Altman’s Manifest Destiny, su newyorker.com, 10 ottobre 2016, The New Yorker.
  27. ^ Bill Gates: l’intelligenza artificiale è un cambiamento epocale, come chip e internet, su amp24.ilsole24ore.com.
  28. ^ (EN) Greg Brockman, John Schulman, OpenAI Gym Beta, su openai.com, OpenAI, 27 aprile 2016.
  29. ^ (EN) OpenAI Gym, su gym.openai.com, OpenAI. URL consultato l'8 maggio 2017 (archiviato dall'url originale il 28 gennaio 2019).
  30. ^ (EN) Greg Brockman, Tweet di G. Brockman su Github: "Yep, the Github repo has been the focus of the project for the past year. The Gym site looks cool but hasn't been maintained.", su Twitter, 12 settembre 2017.
  31. ^ (EN) Tom Simonite, AI Sumo Wrestlers Could Make Future Robots More Nimble, in WIRED, 11 ottobre 2017. URL consultato il 6 gennaio 2019.
  32. ^ (EN) Will Knight, OpenAI’s Goofy Sumo-Wrestling Bots Are Smarter Than They Look, in MIT Technology Review, 12 ottobre 2017.
  33. ^ (EN) Tristan Greene, OpenAI's Debate Game teaches you and your friends how to lie like robots, in The Next Web, 4 maggio 2018. URL consultato il 31 maggio 2018.
  34. ^ (EN) Steven Melendez, Why Scientists Think AI Systems Should Debate Each Other, in Fast Company, 8 maggio 2018.
  35. ^ (EN) Vlad Savov, My favorite game has been invaded by killer AI bots and Elon Musk hype, su The Verge.
  36. ^ (EN) Blair Hanley Frank, OpenAI’s bot beats top Dota 2 player so badly that he quits, su venturebeat.com, Venture Beat. URL consultato il 6 gennaio 2019 (archiviato dall'url originale il 12 agosto 2017).
  37. ^ (EN) Dota 2, su blog.openai.com. URL consultato il 12 agosto 2017 (archiviato dall'url originale l'11 agosto 2017).
  38. ^ (EN) More on Dota 2, su blog.openai.com. URL consultato il 16 agosto 2017.
  39. ^ a b (EN) Tom Simonite, Can Bots Outwit Humans in One of the Biggest Esports Games?, su wired.com, WIRED, 25 giugno 2018.
  40. ^ (EN) Jeremy Kahn, A Bot Backed by Elon Musk Has Made an AI Breakthrough in Video Game World, su bloomberg.com, Bloomberg. URL consultato il 27 giugno 2018.
  41. ^ (EN) Catherine Clifford, Bill Gates says gamer bots from Elon Musk-backed nonprofit are 'huge milestone' in A.I., su cnbc.com, CNBC. URL consultato il 29 giugno 2018.
  42. ^ (EN) OpenAI Five Benchmark, su blog.openai.com. URL consultato il 25 agosto 2018.
  43. ^ (EN) James Vincent, AI bots trained for 180 years a day to beat humans at Dota 2, su theverge.com, The Verge.
  44. ^ (EN) Vlad Savov, The OpenAI Dota 2 bots just defeated a team of former pros, su theverge.com, The Verge. URL consultato il 7 agosto 2018.
  45. ^ (EN) Tom Simonite, Pro Gamers Fend off Elon Musk-Backed AI Bots—for Now, su wired.com, WIRED. URL consultato il 25 agosto 2018.
  46. ^ (EN) Katyanna Quach, Game over, machines: Humans defeat OpenAI bots once again at video games Olympics, su theregister.co.uk, The Register. URL consultato il 25 agosto 2018.
  47. ^ (EN) The International 2018: Results, su blog.openai.com. URL consultato il 25 agosto 2018.
  48. ^ (EN) Learning Dexterity, su blog.openai.com, OpenAI. URL consultato il 27 agosto 2018 (archiviato dall'url originale il 17 febbraio 2019).
  49. ^ (EN) Mae Ryan, Cade Metz e Rumsey Taylor, How Robot Hands Are Evolving to Do What Ours Can, in The New York Times, 30 luglio 2018.
  50. ^ (EN) Alex Hern, New AI fake text generator may be too dangerous to release, say creators, su theguardian.com, The Guardian, 14 febbraio 2019. URL consultato il 28 febbraio 2019.
  51. ^ OpenAI expands access to DALL-E 2, its powerful image-generating AI system [collegamento interrotto], su consent.yahoo.com. URL consultato il 29 agosto 2022.

Voci correlate modifica

Altri progetti modifica

Collegamenti esterni modifica

Controllo di autoritàVIAF (EN279153596615351900003 · GND (DE1165529815 · WorldCat Identities (ENviaf-279153596615351900003