Per quanto riguarda il tuo progetto devo farti i miei complimenti più sinceri. Bravo!
Però nel momento in cui chiedi il mio parere personale, devo necessariamente entrare nel tecnico ma proverò a semplificare al massimo.
Ritengo che l'idea sia valida come esperimento di ingegneria AI, soprattutto per l'obiettivo di ottenere il massimo da modelli linguistici molto piccoli attraverso una memoria esterna persistente.
Vorrei però fare alcune osservazioni tecniche.
Il primo aspetto riguarda il concetto di apprendimento. Un LLM che memorizza esperienze, le indicizza e le recupera successivamente non sta necessariamente imparando nel senso stretto del termine. Sta utilizzando una forma di memoria esterna, secondo principi già conosciuti nelle architetture RAG e nei sistemi agentici.
Il vero salto qualitativo sarebbe dimostrare che il Tamagoshi riesce non soltanto a ricordare informazioni, ma anche a generalizzare ciò che ha acquisito, affrontando problemi nuovi e migliorando concretamente le proprie prestazioni.
Un altro aspetto importante riguarda le dimensioni. Un modello estremamente piccolo può disporre di una biblioteca enorme, ma la quantità di conoscenza disponibile non elimina i limiti intrinseci della sua capacità di ragionamento.
Trovo interessante anche l'idea di consolidare le esperienze e trasformarle in conoscenze sintetiche. Occorre però prevedere controlli sulla qualità delle informazioni: senza una validazione, il sistema rischia di consolidare anche errori e interpretazioni sbagliate.
Per rendere la competizione realmente significativa, proporrei benchmark identici per tutti, confronti con il modello originale senza memoria, test a freddo e soprattutto prove su problemi mai incontrati precedentemente.
Separerei inoltre i risultati ottenuti autonomamente da quelli derivanti dall'intervento del Big Brain.
In conclusione, considero il progetto interessante e meritevole di sperimentazione. Non rappresenta necessariamente un nuovo paradigma di intelligenza artificiale, ma potrebbe produrre risultati utili nell'ottimizzazione della memoria e delle capacità operative dei piccoli LLM.
La domanda più importante, secondo me, non è quanta memoria possa accumulare il Tamagoshi, ma
quanto riesca effettivamente a migliorare grazie a quella memoria, rispetto allo stesso modello che ne è privo.
È proprio su questo punto che concentrerei l'esperimento.