LLM-Manager è una suite Bash leggera e modulare, dotata di una doppia interfaccia JSON/interattiva, progettata per gestire motori di inferenza locali e remoti su Linux e WSL2.

Quando ho iniziato a sperimentare con i Large Language Model (LLM) per sviluppare un'applicazione RAG (Retrieval-Augmented Generation) On-Premise, mi sono scontrato con un ostacolo significativo: la frammentazione degli ambienti di esecuzione.

Gestire diversi motori di inferenza, come Ollama e Llama.cpp, significava dover ricordare opzioni della riga di comando, variabili d'ambiente e configurazioni differenti. Quando i miei prototipi frontend e backend sono stati pronti per i test, mi sono reso conto che stavo dedicando troppo tempo ad avviare, arrestare, caricare e scaricare manualmente i modelli.

Ho cercato soluzioni online. La maggior parte dei suggerimenti prevedeva script Python complessi, pesanti configurazioni Docker, workflow n8n oppure articolate dashboard web.

Non volevo tutta questa complessità. Cercavo qualcosa di leggero, che eseguisse i comandi esattamente come avrei fatto manualmente, ma senza dovermi occupare ogni volta dei dettagli operativi.

È per questo che ho sviluppato LLM-Manager: una suite di orchestrazione modulare scritta interamente in Bash puro.

Configurare la tua app prima che parta.

L'idioma inglese "to pull oneself up by one's bootstraps" (in italiano: tirarsi su per le stringhe degli stivali) descrive un compito impossibile: sollevarsi da terra tirando i propri lacci. Nell'ingegneria del software, tuttavia, il bootstrapping è molto reale. È quel momento critico in cui un'applicazione carica la sua configurazione, imposta il suo ambiente e prepara per l'utente—tutto prima che il primo componente venga renderizzato.

Plugin NS Prism per Joomla

Il plugin NS Prism è un potente strumento per i siti web Joomla, che consente l'evidenziazione della sintassi per frammenti di codice utilizzando la libreria Prism.js. Questo plugin è progettato per migliorare la leggibilità e la presentazione del codice sul tuo sito, rendendolo ideale per sviluppatori, blogger e redattori tecnici. Una delle caratteristiche principali è l'integrazione con Joomla TinyMCE, che personalizza l'elenco dei codici di lingua disponibili.

JDBMig: un approccio intuitivo

La migrazione dei dati tra diversi sistemi di database può essere complessa, soprattutto quando si hanno a che fare con differenze di schema e incongruenze nei tipi di dati. Per questo motivo ho deciso di sviluppare jdbmig, un'applicazione Java leggera e intuitiva, progettata per semplificare le migrazioni di database utilizzando JDBC. Che tu stia passando da MySQL a PostgreSQL, da SQLite a MariaDB o da qualsiasi altro database supportato da JDBC, JDBMIG semplifica il processo.

Usa il database per la configurazione del backend NestJS

Gestire la configurazione in un'applicazione complessa è sempre un compromesso tra sicurezza, flessibilità e facilità d'uso. In questo articolo, esploro un approccio ibrido utilizzando sia variabili d'ambiente che un sistema di configurazione basato su database per un backend NestJS.