Alex Hoopes ha scritto da zero un motore di inferenza in C89 che fa girare modelli linguistici moderni su Macintosh classici. Dalla System 7.5.3 al Mac OS 9. Anche offline.

Alex Hoopes è nato nel 2002. Lo stesso anno in cui Apple produceva il PowerBook G4 Titanium che ha sul tavolo. Questa coincidenza non è solo una curiosità: è il punto di partenza di MacinAI Local, un progetto che ha richiesto mesi di lavoro e che Alex descrive sul suo sito Old Apple Stuff con un livello di dettaglio tecnico che lascia a bocca aperta.

L’idea di partenza era semplice: far girare un’intelligenza artificiale moderna su un Macintosh classico, senza relay, senza server, senza connessione a internet. Solo il Mac, un modello linguistico e il processore PowerPC G4 che ci pensa su per qualche secondo prima di rispondere. E il risultato, a quasi 3 token al secondo sul PowerBook G4 da 1 GHz, funziona davvero.

Quando il Mac inizia a parlare con la voce di PlainTalk

MacinAI Local non è una dimostrazione tecnica fine a se stessa. È un’applicazione completa: interfaccia di chat con Geneva font, storia delle conversazioni, rilevamento automatico dell’hardware tramite Gestalt Manager, e soprattutto integrazione con lo Speech Manager di Mac OS. Il Mac legge ogni risposta ad alta voce usando le voci PlainTalk, quelle stesse voci che chiunque abbia usato un Macintosh degli anni Novanta riconosce immediatamente. Sentire Fred o Kathy leggere un testo generato da un modello da 100 milioni di parametri su un computer del 2002 è qualcosa di difficile da descrivere.

Il motore gira su hardware che va dal PowerBook G4 fino a un Macintosh Plus del 1986: Alex ha progettato tre livelli di modello in base alla RAM disponibile, con il modello più piccolo da 10 milioni di parametri che ci mette 15-25 secondi per token ma che, sulle 4 megabyte dell’antico Mac, funziona lo stesso. Il modello può anche generare AppleScript ed eseguirlo: chiedi di copiare un file o svuotare il cestino, il Mac scrive lo script, te lo mostra e lo esegue. In C89, compilato con CodeWarrior Pro 5.

Il progetto è in fase di pre-release e cerca tester. Alex ha anche lavorato alla versione connessa, MacinAI, che usa un relay per appoggiarsi a modelli come Claude di Anthropic o GPT-4o. La versione locale è nata come risposta a chi gli diceva che il Mac era solo un thin client. Ora non lo è più.

Vale la pena guardare il video demo per vedere MacinAI Local in azione su hardware reale, e leggere il post tecnico completo per capire quanto lavoro ci sia dietro ogni singolo token.

Un ragazzo di 23 anni ha scritto da zero, in C89, un motore di intelligenza artificiale per un computer nato lo stesso anno in cui lui veniva al mondo. Se non è questo lo spirito che ha sempre reso speciale il mondo Macintosh, non sappiamo cos’altro lo sia.

- Info -

Disclamer: Questo articolo presenta le opinioni del suo autore indipendente o della fonte da cui è estratto o ricevuta e non di Italiamac. Può essere stato realizzato con l’assistenza della IA per la traduzione e il riassunto. Non è da considerarsi consulenza, consiglio o invito all'uso o all’acquisto o investimento in quanto a puro titolo esemplificativo generico. Alcuni prodotti e servizi potrebbero non essere consentiti in alcune regioni geografiche. I racconti di Ucronìa: Cupertino sono fiction.



Scarica l’App di Italiamac:
Promo