Qualcuno è riuscito ad installare un lmm con lm studio e/o open interpreter?

[lotto_tom75]

Io ho provato e riprovato ma mi da sempre errore con qualsiasi LMM free risulti disponibile dall'applicazione desktop...

ps: avendo letto che richiedeva forse anche qualche componente di visual studio 2022 community ho installato anche quello ma nisba...

 

[lotto_tom75]

Provando con docker ad installare Ollama e i relativi modelli stessa storia... nisba... Qualcuno sa di cosa sto parlando e può per caso darmi una mano? Per quanto mi riguarda avere un IA free in locale senza limiti di drag and drop... sarebbe il top.. ma per adesso rimane solo una pia illusione...

 

[claudio8]

Ciao Tesla, di che parli?

 

[cedol8roby]

Ciao lotto_tom75,
premetto che non ho installato alcunchè, e non so se fa al caso tuo. Parli tra le altre cose di Ollama nativo per ambienti Linux, forse questi due articoli fanno al caso tuo

Ollama, intelligenza artificiale in locale sui propri sistemi​

LocalAI, l'alternativa a OpenAI che funziona in locale è italiana​

Spero che qualcuno più addentro ti possa dare una mano.
Good Luck e buon Natale

 

[lotto_tom75]

Ciao Tesla, di che parli?

Buongiorno anche a te claudiotto

Parlo della possibilità, per adesso remota..,. ma grazie alle info by cedolboy da oggi forse un pò meno..., di installarsi free in locale un sistema IA simile a cgpt per provare poi ad istruirlo con calma anche offline riguardo le tesliche ricerche lotto ludiche...
La differenza sostanziale tra un sistema free online e un sistema free locale IA, che mi ha spinto a cercare varie soluzioni in tal senso (per adesso tutte naufragate nel vuoto...), è la possibilità di dargli in pasto interi files (vedi archivi txt o file .ls o .vb o .py) senza limiti di righe input (con drag and drop no limits intendevo questo). Al momento l'IA online free fa abbastanza bene il suo lavoro ma appunto spesso necessita di splittaggi continui estenuanti perchè non accetta in ingresso + di 2048 caratteri... Le due piattaforme di cui parlano gli articoli ollama e localAI e anche altre sono gestori di LMM ovvero programmi che dovrebbero consentire l'utilizzo free in locale di questi Large Language Model (LMM). Noti in italiano come Modelli linguistici di grandi dimensioni, sono delle particolari applicazioni del machine learning nate per svolgere mansioni associate al linguaggio tra cui quelle statistiche appunto.

Ciao lotto_tom75,
premetto che non ho installato alcunchè, e non so se fa al caso tuo. Parli tra le altre cose di Ollama nativo per ambienti Linux, forse questi due articoli fanno al caso tuo

Ollama, intelligenza artificiale in locale sui propri sistemi​

LocalAI, l'alternativa a OpenAI che funziona in locale è italiana​

Spero che qualcuno più addentro ti possa dare una mano.
Good Luck e buon Natale

Grazie mille per queste due dritte. La prima la conoscevo e appunto ho provato ad installarla (purtroppo appunto senza successo) con una sorta di VM super accessoriata (docker) in quanto per adesso ollama sembra non sia disponibile per windoz ma solo per linux e mac ; la seconda invece mi è totalmente nuova e non vedo l'ora di provare quel nuovo nostro genio italico di cui parla l'articolo. Grazie mille di nuovo anticipate e Buon Natale D'Oro Cedol8roby!

ps: un'altra cosa di cui proprio non conoscevo l'esistenza è il linguaggio go di cui parla il secondo articolo.

 

[lotto_tom75]

Aggiornamento..

Ho provato in mille modi a scaricare e installare localAI ma per adesso nisba.. Questo forse e' l'ultimo tentativo.. Ad ogni modo sembra che sia più di 20gb di roba!



Se qualcuno ci riesce.. con docker o in altro modo mi faccia un fischio... e mi dica come ha fatto...

Thanks

 

[lotto_tom75]

Aggiornamento...
Sono riuscito ad installare sia localAI che ollama con docker ma non mi parte nell'una nell'altra perchè in entrambi i casi non riesco ad avviare da localhost nessun modello... e dalle info che ho trovato in rete e tramite copilot non ho tratto alcuna soluzione...

In compenso dopo ennemila tentativi sono riuscito a far funzionare con python un AI very small.. "distilgpt2"... Qualcuno la conosce e sa come si usa? E sopratutto sa se ha un sistema o interfaccia di chat input simile a chat gpt da poter implementare in python?

Speriamo che almeno copilot continui a darmi answers...