Umani vs. AI: la guerra è iniziata
Il Garante ferma chatGPT in Italia, Elon Musk e friends chiedono lo stop allo sviluppo dei LLM per 6 mesi. La battaglia per il progresso è appena iniziata.
Ho appena ricevuto questa email da OpenAI:
Che cosa significa? Che chi accede dall’Italia non potrà più accedere a chatGPT almeno fino a quando non verrà trovato un accordo tra OpenAI e il nostro Garante, che accusa la società americana di raccogliere una grande quantità di dati in modo non conforme alla GDPR.
Un pò come la storia di Google Analytics che è diventato illegale vi ricordate?
Quindi fino a quando non potrò accedere a chatGPT adesso?
Fino a quando non avrete attivato la VPN.
Ma il Garante che ci difende dai pericoli del web non è l’unico a lottare contro l’AI.
Elon Musk insieme ad una serie di ricercatori/accademici tra cui Yoshoua Bengio vincitore del premio Turing, Yuval Noah Harari professore e autore di bestellers come Sapiens e Homo Deus e imprenditori del calibro di Steve Wozniak co-founder di Apple, hanno firmato una lettere aperta in cui chiedono di sospendere lo sviluppo delle Intelligenze Artificiali basate su LLM (large language models) per i prossimi 6 mesi.
Meglio che allacciate le cinture: la battaglia contro le AI è iniziata.
La lettera aperta per fermare l’AI
Quando ho letto la notizia che Elon Musk ha scritto una lettera aperta chiedendo di fermare lo sviluppo delle AI per i prossimi 6 mesi ho pensato “Eccolo, Il solito idiota”, perché ormai la mia opinione di Elon è che si sia ayahuascato il cervello (apro parentesi: conosco qualcuno che conosce di persona Elon e pare che ricorra spesso a questo trattamento, oltre ad avere una persona del suo staff che quando si entra nella sua stessa stanza requisisce tutti i cellulari).
A motivare questa richiesta ci sarebbero i rischi che a suo dire i sistemi di AI pongono per la civiltà come la conosciamo. Vi metto qui un citato:
AI systems with human-competitive intelligence can pose profound risks to society and humanity, as shown by extensive research[1] and acknowledged by top AI labs.[2] As stated in the widely-endorsed Asilomar AI Principles, Advanced AI could represent a profound change in the history of life on Earth, and should be planned for and managed with commensurate care and resources. Unfortunately, this level of planning and management is not happening, even though recent months have seen AI labs locked in an out-of-control race to develop and deploy ever more powerful digital minds that no one – not even their creators – can understand, predict, or reliably control.
Contemporary AI systems are now becoming human-competitive at general tasks,[3] and we must ask ourselves: Should we let machines flood our information channels with propaganda and untruth? Should we automate away all the jobs, including the fulfilling ones? Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization? Such decisions must not be delegated to unelected tech leaders. Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable.
Per chi non è particolarmente dentro il campo dell’Intelligenza Artificiale potrebbe sembrare qualcosa di sensato e giustificato, e in linea di massima i concetti che vengono elencati lo sono, ma si rischia di fare una grossa confusione tra quella che è AI e AGI.
ChatGPT e tutti i suoi concorrenti sono delle AI, ovvero delle Artificial Intelligence, che altro non sono che dei LLM (large language models).
Come spiega l’acronimo stesso, questi software sono dei modelli che vengono addestrati dandogli in pasto delle informazioni e delle istruzioni per i compiti che devono eseguire e i confini entro i quali possono lavorare.
Per alcuni aspetti è vero che questi software potrebbero sostituire dei ruoli e delle competenze in ambito lavorativo, come è vero che qualcuno potrebbe usarle per creare informazioni false o creare disinformazione. Ma sono le persone a fare questo, non è la tecnologia di per sé, questo è qualcosa che già sta accadendo da quando Facebook e Twitter sono diventati mainstream, cambierebbe soltanto il mezzo e, probabilmente, l’impatto.
Arrivando invece al punto:
Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization?
Bene è qui che cominciamo ad andare fuori strada, qui si sta parlando di AGI.
AI vs. AGI: Artificial General Intelligence.
Questo termine, coniato e spiegato da professori e fisici del calibro di David Deutsch, si riferisce ad una vera e propria intelligenza nel senso umano.
La differenza fondamentale è che un AI non potrà mai fare nulla al di fuori di quello per cui viene programmata e addestrata, una AGI invece funzionerebbe come una persona per cui potrebbe anche disobbedire ad un comando diretto e avrebbe dei processi di apprendimento simili a quelli umani ovvero di trial and error (ma con la velocità di una macchina ndr).
Non è questa la tecnologia di cui disponiamo oggi, non siamo nemmeno lontanamente vicini a qualcosa di simile. Pertanto:
Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization?
è solamente una frase buttata per sollevare un polverone.
Il problema di qualcuno che possa addestrare una semplice AI a fare qualcosa di poco etico o brutto esiste, ma come detto in precedenza si tratta di un problema umano che esiste già dall’alba dei tempi partendo da sistemi di governo, armamenti e chi più ne ha…
E poi dobbiamo chiederci:
Se la parte del mondo più democratica decidesse di fermare lo sviluppo di questi sistemi, cosa farebbe il resto del mondo? La Cina, la Corea del Nord, la Russia. Vogliamo veramente restare indietro?
Ho ascoltato di recente un podcast fantastico in cui Tim Ferris e Naval Ravikant intervistano David Deutsch e parlano di questa e altre tematiche. Ve lo consiglio se siete nel mood per voli pindarici.
Insomma io sono dell’opinione che il genio sia ormai fuori dalla lampada e ricacciarlo dentro sia praticamente impossibile.
Meglio regolamentare nel modo più corretto e veloce possibile hahaha… mi viene da ridere anche solo a scrivere le parole regolamentare e veloce nella stessa frase, se dovesse procedere come sta andando per Cryptovalute e Blockchain possiamo tranquillamente aspettare l’arrivo di una AGI in grado di regolamentarci tutti!
Con questo felice auspicio di progresso vi auguro una buona domenica!
Se non vuoi essere regolamentato condividi!