Sam Altman és una de les persones més poderoses del món. Com a CEO d'OpenAI, l'empresa que hi ha al darrere d'intel·ligències artificials punteres com ChatGPT, DALL-E i Sora, pren decisions cada dia que marquen el futur d'aquestes tecnologies i, en conseqüència, de la humanitat. En recollim 14 reflexions extretes de la seva conversa amb Chris Anderson, cap de TED.
1. Al llarg de la vostra vida, parlareu amb ChatGPT. Algun dia, si voleu, estarà escoltant-vos durant el dia i observant tot el que feu. Us arribarà a conèixer. Esdevindrà una extensió de vosaltres mateixos; un company. Una eina que simplement intentarà ajudar-vos a ser la millor versió de vosaltres i a fer les coses el millor que pugueu.
2. Jo assistiria a una cimera amb els millors experts en ètica i tecnologia per provar de fixar unes línies de seguretat. Però m’interessa molt més què volen els nostres centenars de milions d’usuaris en conjunt. Històricament, moltes coses s’han decidit en cimeres elitistes reduïdes. Una de les novetats fantàstiques de la IA és que pot parlar amb tothom, arreu del planeta. I podem aprendre quines preferències de valors col·lectius té la gent, en comptes de deixar que un grup de persones, beneïdes per la societat, es tanquin en una sala i prenguin aquestes decisions.
3. Tinc l’esperança que la IA ens ajudi a ser més savis i a prendre millors decisions de governança col·lectiva. Si li dius: "Ei, vull tal cosa", en lloc de posar-la en marxa directament, la IA pot dir: "Perfecte, entenc que és el que vols; si és el que continues volent al final d’aquesta conversa, la decisió és teva. Però, ¿has pensat en la perspectiva d’aquesta altra persona, o en l’impacte que tindrà sobre aquestes altres?"
4. El que més m’emociona és la IA aplicada a la ciència. Crec fermament que el motor més important perquè el món i la vida de les persones millorin és el descobriment científic. Podem fer més coses amb menys recursos. Desplacem les fronteres del que és possible. I ja comencem a sentir científics que ens diuen que, amb els nostres models més recents, són més productius del que eren abans.
5. El nostre objectiu és arribar a la IA general i distribuir-la —fer-la segura— per al benefici ampli de la humanitat. Crec que, en general, podem dir que hem fet molt en aquesta direcció.
6. Si poses 10 investigadors d’OpenAI en una sala i els demanes que defineixin la IA general, obtindràs 14 definicions. Però tots coincidim que la IA anirà molt més enllà de qualsevol d’elles. El que realment importa —i el que la gent vol saber— no és on és el moment màgic de "ja ho tenim". Més aviat és: ¿com parlem d’un sistema que sigui segur a través de totes aquestes fases i més enllà, quan sigui més capaç que nosaltres i pugui fer coses que no entenem del tot? Això no s’aturarà. Anirà molt més enllà del que qualsevol de nosaltres anomenaria IA general. I hem de construir una societat que n’obtingui beneficis immensos i, alhora, sàpiga com fer-la segura.”
7. El deu per cent de la població mundial fa servir els nostres sistemes. I els fan servir molt. Estem molt orgullosos del nostre historial de seguretat. No pots llevar-te un dia i dir: "Ei, no teníem cap procés de seguretat en marxa, però ara el model és realment intel·ligent, així que ens hi posarem." Has de preocupar-te’n al llarg de tota aquesta corba exponencial. El nostre mètode per aprendre a crear sistemes segurs és un procés iteratiu de posar-los al món i recollir-ne els comentaris mentre el risc encara és relativament baix.
8. Hi ha equilibris complicats en tot el que fem. Sens dubte, hem comès errors. I en seguirem cometent més en el futur. Però, en conjunt, crec que, al llarg d’aquests gairebé deu anys, majoritàriament hem complert el que ens vam proposar. Tenim un llarg camí per endavant.
9. La IA agentiva és el repte de seguretat més interessant i transcendent que hem tingut fins ara. Perquè, quan cedeixes a la IA accés als teus sistemes, a la teva informació, a la capacitat de clicar i operar a l’ordinador, si aquesta IA comet un error, l’impacte és molt més alt. Però crec que seguretat i capacitat s’estan convertint en una sola dimensió. Un producte bo és un producte segur. No faràs servir els nostres agents si no et refies que no et buidaran el compte corrent o t’esborraran les dades.
10. Durant aquest procés, he passat molts moments d'admiració profunda, i sempre van acompanyats de la pregunta: ¿fins on pot arribar, això? ¿En què es pot convertir? Però no estem amagant cap model conscient, ni tampoc cap model capaç de millorar-se a si mateix.
11. Crec de debò que la societat aprèn, amb el temps, a encarrilar la tecnologia —tot i que de vegades amb grans errors pel camí. I la IA, inevitablement, passarà: és com un descobriment de la física fonamental que ara el món ja coneix, i formarà part del nostre entorn.
12. [Parlant del poder que té entre mans] Qualsevol cosa esdevé la nova normalitat. Així que no em sembla gaire diferent. És estrany estar parlant d’això, però, ja veus, la rutina del dia a dia —i ho dic en el millor sentit possible— em continua semblant exactament la mateixa.
13. Tenir un fill ho va canviar tot. Ha estat, de llarg, la cosa més increïble que m’ha passat mai. Tal com va dir el meu company Ilya Sutskever: "No sé quin és el sentit de la vida, però segur que té a veure amb els nadons." No estar amb el meu fill té un cost altíssim. Però, abans, ja m’importava molt no destruir el món. Ara hi continuo donant la mateixa importància. No necessitava tenir un fill per això.
14. Els meus fills, espero, mai no seran més intel·ligents que la IA. Mai viuran en un món on els productes i els serveis no siguin extremadament intel·ligents, extremadament capaços. Mai viuran en un món on els ordinadors no t’entenguin i puguin fer, d’una forma o altra, tot allò que imaginis. Serà un món d’abundància material increïble, un món on la velocitat de canvi serà altíssima, i on passaran coses sorprenents. Un món on la capacitat i l’abast individual aniran molt més enllà del que pot fer una persona avui. Espero que els meus fills, i els vostres, mirin enrere amb una mica de llàstima i nostàlgia i diguin: "Van viure unes vides horribles. Estaven molt limitats. El món era una merda".
