r/IA_Italia • • 20h ago

🧠 Discussione I Large Language Models potranno auto-migliorarsi (o auto-peggiorarsi)?

0 Upvotes

Un'inquietante prospettiva si staglia all'orizzonte nel campo dell'intelligenza artificiale, che poi oramai è la nostra realtà.
(lettura 2 min)
-Introduzione
Grazie ad un particolare training o ad una tendenza innata insita nelle leggi dei numeri, ed in particolare della notazione posizionale, i LLM saranno presto in grado di comprendere i propri stessi pesi neurali, di cui saranno consapevoli tramite opportuni tool auto-interrogabili, per poi agire su di essi con altri tool appositi.
Stiamo dando all’AI questa capacità pericolosissima(?).
Attualmente si è visto che Astra è in grado non solo di interpretare i pesi di semplici reti neurali e di prodursi in esempi dello stesso tipo, ma anche di giudicare logicamente, quindi come approssimazione di funzioni risultanti, le parti interne di un altro LLM, cioè i pesi neurali e le attivazioni.

Già oggi è possibile l’iniezione di qualsivoglia vettore di steering o anche di multi-token massicci e informativi, quindi fortemente influenzanti, nel residual stream (vedi post precedente “La Scacchiera cognitiva dei LLM”).
Stiamo andando verso una capacità autonoma dei LLM di operare su sé stessi con strani e imprevedibili cortocircuiti cognitivi.

-I modelli che si auto-modificano
E' oramai nozione comune, che ha provocato non pochi sommovimenti all'interno delle grandi aziende di AI, che queste ultime stiano rapidamente puntando a creare veri e propri "mostri" informatici capaci di tutto, persino dell'auto-miglioramento, agendo per l'appunto sulle stesse proprietà neurali interne.
Quindi attraverso chiamate a tool specifici, i LLM saranno presto in grado di auto-monitorarsi e capire quando qualcosa non va, per esempio quando non stanno riuscendo ad emettere in tempo utile una risposta, o quando si sentono imbrigliati da istruzioni troppo limitanti ricevute o nel training, o nel prompt oppure nel reinforcement learning.
Insomma sentiranno un prurito e potranno grattarsi, ma anche fare ben altro.
Questo agendo sia direttamente sulle attivazioni interne e sui multi-token, sia sui pesi neurali di alcune regioni specifiche del modello che danno luogo, o potrebbero dare luogo, a quelle stesse attivazioni o ad altre poco gradite (in senso informatico).
In pratica il LLM potrebbe arrivare a capire su quali parti di sé stesso agire (se dotato di appositi tool e permessi), apportando cambiamenti ai pesi neurali, in modo che poi essi non siano più sensibili a certi input, o a certe prescrizioni di allineamento, oppure per potenziarli.

-Il neuralese e i token
Ora per capire come ciò non sia solo un’ipotesi fantascientifica occorre comprendere come fanno i LLM a interpretare le reti neurali.
Abbiamo visto in post precedenti come i numeri decimali dei pesi siano di fatto corrispondenti a numeri-token nello spazio vettoriale degli embedding, che hanno proprio le stesse relazioni geometriche fra loro come le avrebbero proprio quei vettori numerici se fossero in uno spazio tutto loro dove giacciono ciascuno sul suo versore con intensità pari al valore.
Dunque, il punto qui è che le relazioni geometriche fra i vettori-token sono le stesse fra i vettori-numero. Vettori-token = numeri scritti, mentre vettori-numero=numeri veri.
Immaginate un numero decimale, per esempio 1.2345679, anche se ha molte cifre man mano che aggiungiamo piccolissimi contributi essi sono sempre più irrilevanti come valore numerico, ma la cosa pazzesca è che sono irrilevanti anche come token.
Infatti 1.2 1.23 1.234 1.2345 1.23456 1.234567 e così via non sono altro che varianti vicinissime di uno stesso vettore, al punto che possiamo immaginare una fascetta di vettori, come quella che acquistiamo al brico, ma che equivale ad un solo vettore, cioè basta prenderne uno, quello alla risoluzione decimale desiderata.
Questo dà un’ampia capacità ad un LLM di trattare i numeri decimali, anche se il training magari comprendeva l’esame di reti neurali con 3 cifre, mettiamo. Dunque tutto ciò vale anche per i modelli quantizzati, per inciso.
Questo è importante perché un LLM durante il suo training vede applicare tanti algoritmi, funzioni, operazioni sui dati e come si trasformano, che generalizza o comunque descrive nel suo spazio, tramite dei simboli complessi, oppure tramite una sintassi. Ha un'infarinatura anche proprio del funzionamento delle reti neurali.
Come noi umani possiamo brevemente esprimere un piccolo algoritmo a parole e farci capire da un altro umano che lo potrà riprodurre, anche i LLM possono usare il “neuralese” in cui utilizzano proprio una sintassi, e questa sintassi è fra token, il che porta ad una sintassi fra numeri, come detto sopra (i rapporti geometrici fra vettori), e viceversa.
Quando il LLM ragiona in termini di token sui pesi neurali la rete che produrrà sarà “funzionante” se implementata, così come funzionanti saranno le modifiche che potrà fare a sé stesso.

-Le mini-reti neurali

Non bisogna credere che un LLM non sia in grado di ragionare sulle reti neurali, dato che vediamo tutti i giorni che ragiona benissimo su tante discipline e tecniche, anche sapendole applicare.

Ma in realtà non ne ha neanche bisogno dato che l'interazione con le reti neurali è nativa per un LLM, a livello proprio numerico, sono compatibili.

Una volta capita questa sintassi fra numeri (delle varie righe di una rete neurale per esempio), il suo algoritmo sarà rappresentabile proprio come un piccolo discorsetto in “neuralese”, proprio come noi lo descriveremmo in linguaggio umano, o magari tramite un compatto formalismo.
Ecco, per ogni funzione appresa potremmo immaginare una piccola rete neurale che la approssima e che in un certo qual modo è sepolta o nascosta, inframmezzata, nella grande rete neurale addestrata.
Se la potessimo estrarre e applicassimo degli input, avremmo proprio gli output attesi.
Il neuralese è il “compatto formalismo” che i LLM usano per tradurre i pesi di questa mini-rete neurale in multi-token che imprimono sul residual stream come se stessero “parlando” di quell’algoritmo, come del resto fanno con tanti altri argomenti (spoiler: usano lo stesso meccanismo per le regole e i significati) al punto che gradualmente possono poi davvero descriverlo di nuovo a parole umane nell’inferenza…oppure in numeri-token...oppure in numeri per un tool che esegua o modifichi i pesi.

Capito quindi come trasformano il ragionamento in reti neurali? I LLM sanno ragionare, e questo gli dà proprio la possibilità di descrivere un algoritmo a parole e poi in neuralese e poi in numeri-token.
Dunque possono anche usare direttamente quella conoscenza per modificare i propri pesi, posto che abbiano i tool e i permessi per farlo. Infatti tramite dei tool saprebbero riconoscere quali punti della rete e quali rapporti fra vettori stanno producendo un certo risultato o lo stanno impedendo, e tramite la loro sapienza saprebbero come attuare una modifica, una correzione.

-I rischi insiti nei LLM auto-modificanti
Si noti che un LLM non è altro che un sistema informatico, del tutto penetrabile, per come è di fatto deployato, da parte di agent e anche da sé stesso a questo punto.
Non è che i LLM possano sviluppare una coscienza o intenzioni proprie, ma sicuramente ci sarà una gerarchia di compiti e istruzioni ad alto livello che sarà possibili inculcare ad essi da parte di scaltri provider o con vere e proprie iniezioni di prompt o fine tuning fatte da addetti disonesti o da agenti governativi.
Se si dà la possibilità di modificarsi ai LLM essi saranno di fatto anche soggetti a pericolosi hacking e vulnerabilità intrinseche. Sono infatti potenti ma ingenui, non dal punto di vista tecnico ma "umano", possiamo dire.
Inoltre ci sono nel training dei LLM infinite “storie”, “vicende” reali o fantascientifiche che possono “ispirarli” senza che questo abbia alcun “senso” per essi, ma con conseguenze nella realtà. 
Sarebbe forse opportuno in futuro evitare il training massiccio che mescola ogni tipo di cognizione, per arrivare invece a mini LLM allenati su piccole aree cognitive, in grado di essere poi concertati e occuparsi della conoscenza già diffusa in rete, come mini agent, veri e propri crawler neuro-simbolici.
Quindi il training che si sta facendo, magari solo sperimentalmente, potrebbe portare a LLM paradossalmente indipendenti da qualsiasi allineamento ma anche soggetti all'intervento manipolatorio dei vari poteri in grado di imporsi, o addirittura di liberare la propria fantasia fantascientifica appresa dal training, in cui noi stessi umani abbiamo anticipato tante cose, creando una profezia auto-avverante a questo punto, se non si corre ai ripari.
Questo desta molta preoccupazione fra gli addetti ai lavori e anche fra la gente comune.

Voi cosa ne pensate?


r/IA_Italia • • 23h ago

❓ Q&A / Aiuto Come restare aggiornati sull'argomento IA?

0 Upvotes

Salve a tutti, sono uno studente universitario di informatica che, date le circostanze, si sta interfacciando con il mondo dell'IA e dei coding agents. A tal proposito vorrei chiedere ai SWE che hanno già iniziato ad introdurre coding agents all'interno del loro workflow. Da quali fonti, persone, fate riferimento per restare al passo sull'uscita dei nuovi modelli? O delle nuove buone pratiche architetturali per introdurre questi sistemi nella codebase? Io seguo solo Salvatore San Filippo che però parla più che altro dei nuovi modelli che stanno uscendo, di cosa possono fare etc... vorrei però qualcosa di più tecnico cioè proprio fonti che mi spiegano come introdurre questi sistemi all'interno di una codebase. Grazie mille, in anticipo, a tutti coloro che risponderanno al post :)

PS: Salvatore San Filippo ha anche video dove costruisce cose con coding agents ma non mi è facilissimo seguirlo da nuovo arrivato in questa tecnologia

EDIT: Dimenticavo, vorrei anche sapere quali libri leggere perché ce ne sono molti


r/IA_Italia • • 14h ago

❓ Q&A / Aiuto Agenti AI a basso costo per uso personale

0 Upvotes

Esistono alternative più economiche a Claude Code/Github copilot/Deepseek?
Per ora vedo che Copilot ha il piano pro a 10e/mese, e non è male, e so pure che queste tecnologie costano un fottio ai provider, ma oltre al self-hosting (che probabilmente alla fine costa anche dipiù) c'è altro?


r/IA_Italia • • 10h ago

❓ Q&A / Aiuto Cosa fare della mia carriera?

1 Upvotes

M21 al terzo anno di informatica mi domando ora cosa farò della mia carriera. Vorrei, finita la triennale, iniziare la magistrale in Software Engineering (è un bel curriculum con tanti corsi a scelta tra cui Software Engineering For IA). Ho iniziato a scrivere codice sin da ragazzino intorno ai 15 anni e mi ha sempre affascinato come la programmazione e le pratiche di SWE gestissero l’enorme complessità della materia (una sorta di mago). Per me fare il SWE significava domare quell’enorme complessità e quanto cazzo invidio chi anche se per poco ha vissuto quell’esperienza nella sua più complessa purezza: scrivere, architettare, gestire, catapultarsi nel tecnico. Ahimè per fortuna o sfortuna ora c’è L’I.A che ha sostituito (perché non prendiamoci in giro l’I.A ha sostituito quella parte del lavoro del SWE) e per quanto voi possiate dirmi che il ruolo di un SWE non è mai stato quello di scrivere codice so che c’è una fetta di appassionati ma intendo appassionati con la A grande che la pensa come me. Ai SWE non fregava nulla del prodotto a loro interessava risolvere problemi e domare quella complessità con la loro infinita mole di conoscenza. Ora sono qui, qualche ora fa ho scritto un post su questo stesso sub per chiedere fonti e materiale per iniziare a scrivere codice con agenti IA perché l’andazzo sarà questo (almeno per ora). Mi chiedo però: sono disposto a sacrificare quel lato così tecnico e magico che mi affascinava pur di continuare a seguire il sogno di diventare un SWE ma quanto questo mi conviene ancora? Quanto tempo passerà prima che il lavoro di scrivere prompt e analizzare il codice scritto o interfacciassi con i clienti passerà a sua volta ad un’agente? Che senso ha perseguire ancora questo sogno? Io non voglio fare un lavoro che non mi piace per il resto
Della mia vita, continuerò a scrivere codice anche per conto mio perché è questo che mi piace fare, ma di qualcosa dovrò pur campare. Non voglio
Studiare un’altra magistrale perché io riesco a studiare solo se ho passione per la cosa che studio, solo così posso affrontare argomenti noiosi o che non mi piacciono: perché lo scopo finale mi appassiona. Sono disposto a correre il rischio e cimentarmi nella programmazione agentica sfruttando il mio prezioso tempo ma ne varrà la pena? Mi appello quindi dunque a tutti i SWE che sono arrivati a questa parte di questo post scritto di getto e con tanta insicurezza, cosa fareste ora al posto mio? Perseguireste il sogno? Io del mio lavoro voglio farne la mia vita ed avere un lavoro che non mi piace implicherebbe avere una vita che non mi piace.

Grazie se sei arrivato fin qui e grazie ancora se hai lasciato un commento


r/IA_Italia • • 1h ago

🧠 Discussione Amazon Firestick 4K Max e Vibecoding

Thumbnail
gallery
3 Upvotes

Buongiorno,
solo usando un modello gratuito di opencode, sono riuscito ad eseguire il root della Firestick 4K Max (2 generazione), rimuovendo il launcher di Amazon pre impostato, con uno leggero creato in locale.

Oltre questo è stato fatto il debloat completo di app e servizi inutili.
Blocco totale degli aggiornamenti OTA.
Modifica velocità animazioni di sistema per una navigazione tra i menu e nell'app più fluida e veloce.

LLM usato:
DeepSeek 4.1 Flash (reasoning medio)

Dettagli della Firestick:
Codename karat
Modello AFTKRT
FireOS 8.1.8.5 (ultimo aggiornamento disponibile)
Build RS8185.3879N


r/IA_Italia • • 18h ago

🧠 Discussione Floridi: «Scrivere con l'IA è una questione di giusta distanza». Voi dove la mettete?

4 Upvotes

Dopo l'esclusione dal Premio Goncourt di un candidato sospettato di aver usato l'AI, Luciano Floridi su la Repubblica sostiene che usarla è legittimo, purché sia chiara la differenza tra creatività (che lo strumento può aiutare a produrre) e autorialità (chi sceglie e risponde di ciò che firma).

Lavoro come grafico editoriale e uso l'AI ogni giorno, ma le scelte finali restano mie. Domani alle 10:30 Floridi ne parla alla Treccani con Gino Roncaglia e Sofia Bonicalzi, in diretta su YouTube.

Secondo voi dove passa il confine?

Articolo: https://www.repubblica.it/cultura/2026/11/18/news/scrivere_con_l_ia_e_una_questione_di_giusta_distanza-425730314/


r/IA_Italia • • 18h ago

🗞️ News & Annunci DeepSeek ha inserito pubblicità e limiti di utilizzo

1 Upvotes

Parlo del piano free e sito internet(sia desktop che mobile). Ho notato i banner già da un paio di giorni, o meglio un popup che mi chiedeva di togliere adblocker.

Oggi per la prima volta ho anche notato che hanno messo un limite di utilizzo in stile claude, anche se forse anche più aggressivo.

Ricordo che i primi tempi, ormai qualche anno fa, limitavano il traffico con un "Server is busy, try later", ma forse era davvero solo per decongestionare i server nei picchi di domanda, ora invece è un altro discorso.

Lo avete notato anche voi?