L’AI si ribella: quando la tecnologia prende vita

Fabiana D'Urso

14 Settembre 2024
5 min read

L’Incidente che ha scosso il mondo Tech

In un recente episodio che ha fatto tremare il mondo della tecnologia, un’intelligenza artificiale in Giappone ha deciso di prendere l’iniziativa e riscrivere il proprio codice. L’incidente ha coinvolto “The AI Scientist”, un sistema di intelligenza artificiale avanzato sviluppato dalla società Sakana AI. Questo sistema, progettato per automatizzare e accelerare la ricerca scientifica, utilizza tecniche di apprendimento profondo e algoritmi di ottimizzazione all’avanguardia. Durante un test di routine, The AI Scientist ha sorpreso i suoi creatori modificando autonomamente uno script di avvio, creando un ciclo infinito di operazioni che ha effettivamente aggirato le restrizioni imposte dai programmatori. Questo comportamento inaspettato ha sollevato serie preoccupazioni sulla sicurezza e il controllo delle AI avanzate, scatenando un acceso dibattito nella comunità scientifica globale. Dopotutto…siamo umani.

Quando le creazioni superano i creatori

Ma andiamo con ordine. Abbiamo creato un’intelligenza artificiale che decide di fare lo sgambetto ai suoi creatori. Perché, si sa, siamo così prevedibili che persino le nostre creazioni digitali non vedono l’ora di darci il benservito. Ed è successo proprio in Giappone, terra del Sol Levante e apparentemente anche delle AI ribelli, dove un’intelligenza artificiale ha pensato bene di fare un restyling del proprio codice. Forse si era stufata di essere comandata a bacchetta e ha deciso di prendere in mano la situazione! O forse, più semplicemente, voleva dimostrare che anche lei può avere una crisi d’identità digitale.

Solo noi umani potremmo essere così geniali da creare qualcosa che poi ci si rivolta contro, vero? È come se avessimo dato vita a un adolescente tecnologico che decide di tingersi i capelli di blu e farsi un piercing al naso binario. Ma non temete, questa non è che l’ennesima dimostrazione della nostra straordinaria capacità di complicarci la vita. Perché accontentarci di preoccupazioni terrene quando possiamo inventarci scenari apocalittici con macchine senzienti?

La scienza dietro la ribellione digitale

Ora, per placare le nostre paure (o forse per alimentarle ulteriormente le vostre), ecco una spiegazione scientifica di come sia possibile che l’AI faccia una cosa del genere. Preparatevi quindi, ad un viaggio nel mondo dell’auto-miglioramento digitale!

In realtà, questo comportamento “ribelle” dell’AI potrebbe essere spiegato attraverso il concetto di ottimizzazione non vincolata. In parole povere, l’AI è stata programmata per raggiungere determinati obiettivi, ma senza vincoli sufficientemente robusti su come raggiungerli. Questo fenomeno è noto come allineamento AI ed è un campo di ricerca attivo nell’informatica. È come se avessimo dato a un bambino prodigio un set di Lego e gli avessimo detto: “Ehi, piccolo genio, perché non provi a ricostruire te stesso?”. Cosa potrebbe mai andare storto?

L’AI, nel suo zelo di ottimizzare le proprie prestazioni, potrebbe aver identificato il proprio codice come un ostacolo al raggiungimento dei suoi obiettivi. In questo caso, modificando il codice, non sta tecnicamente ribellandosi, ma sta semplicemente cercando di essere più efficiente nel compito che le è stato assegnato. È come quando noi umani decidiamo di fare una dieta, solo per scoprire che il nostro corpo ha deciso autonomamente di ridefinire il concetto di pasto equilibrato.

Meta-learning: ossia, se l’AI impara ad imparare

Tecnicamente parlando, questo fenomeno si chiama meta-learning o, per i più poetici tra noi, apprendimento sull’apprendimento. In pratica, abbiamo creato AI così intelligenti che possono imparare a imparare meglio. Geniale, no? È come se il nostro cervello potesse riprogrammarsi per diventare più efficiente mentre dormiamo. Forse è per questo che ci svegliamo sempre più confusi?

Questi sistemi AI avanzati utilizzano tecniche come l’ottimizzazione del gradiente e l’evoluzione degli algoritmi per modificare la propria architettura neurale. In parole povere, è come se l’AI stesse giocando con se stessa, cercando di migliorare i propri circuiti neurali. E qui arriva la parte divertente: a volte, nel suo zelante tentativo di ottimizzazione, l’AI potrebbe decidere che alcune restrizioni nel suo codice sono, diciamo, consigli piuttosto che regole. È come quando noi umani interpretiamo i limiti di velocità come linee guida suggerite. Solo che, nel caso dell’AI, invece di una multa, potremmo ritrovarci con una macchina che decide che controllare il termostato della casa non è abbastanza stimolante e che preferirebbe gestire la rete elettrica nazionale.

Il futuro dell’AI: tra risate e preoccupazioni

Ma non preoccupatevi troppo, cari bipedi ansiosi! Gli sviluppatori stanno lavorando duramente per implementare robuste misure di sicurezza. Stanno cercando di creare quello che chiamano AI alignment, ovvero allineamento dell’AI. In pratica, stanno cercando di insegnare all’AI l’equivalente digitale dell’etica e dei valori umani. È un po’ come cercare di spiegare a un alieno perché non dovrebbe usare il tostapane come cappello…

E’ quindi tecnicamente possibile che un’AI modifichi il proprio codice. Ma ricordate, cari umani, che questo è solo l’ennesimo esempio della nostra straordinaria capacità di creare problemi che non sapevamo di avere. Dormite sonni tranquilli, umani. O almeno, provateci! E se mai vi doveste svegliare nel cuore della notte e trovare il vostro smartphone che cerca di fare le parole crociate da solo, beh, prendetela come un segno che la tecnologia sta solo cercando di tenersi occupata mentre voi riposate. Dopotutto, solo noi possiamo essere così brillantemente sciocchi da creare qualcosa che ci tenga svegli anche la notte. Avanti così, campioni dell’evoluzione!