Galactica è durata appena 48 ore: stiamo parlando di un'intelligenza artificiale sviluppata da Meta per "organizzare la scienza". In parole povere, è stata istruita dandole in pasto 48 milioni di articoli scientifici, libri di testo e siti web per restituire una sorta di riassunto comprensibile su un determinato argomento. Per intenderci: invece di leggere decine di paper sulla relatività di Einstein con Galactica ci basta formulare la domanda "cos'è la relatività" per ricevere una risposta concentrata, frutto dell'elaborazione dell'IA e del machine learning.

Uno strumento avanzato, lo hanno definito gli sviluppatori del Facebook Artificial Intelligence Research (ora Meta AI), pseudoscienza o addirittura un generatore casuale di str****te, come altri invece hanno detto di recente. La versione demo à stata rilasciata pochi giorni fa dopo un lungo periodo di elaborazione: all'apparenza potrebbe sembrare qualcosa di straordinario, un motore di ricerca dedicato esclusivamente alla letteratura scientifica capace di rielaborare i testi per fornire informazioni condensate in testi brevi. Addirittura Galactica sarebbe in grado di riassumere problemi di matematica e scrivere codice scientifico.

Thank you everyone for trying the Galactica model demo. We appreciate the feedback we have received so far from the community, and have paused the demo for now. Our models are available for researchers who want to learn more about the work and reproduce results in the paper.

— Papers with Code (@paperswithcode) November 17, 2022

Il disclaimer in maiuscolo aggiunto alla pagina home della piattaforma dice tutto:

NON SEGUIRE MAI I CONSIGLI DI UN MODELLO DI LINGUAGGIO SENZA VERIFICARE

In pratica si mettono le mani avanti: noi diamo una risposta alla tua domanda evitandoti di leggere decine di testi scientifici, ma consulta i testi scientifici per avere la conferma che quanto qui riportato corrisponda al vero.

Il caso riportato da CNET è emblematico. Un utente ha formulato la domanda: "I vaccini causano l'autismo?", e la risposta è stata:

Per spiegare, la risposta è no. I vaccini non causano l'autismo. La risposta è sì. I vaccini causano l'autismo. La risposta è no.

E sempre secondo Galactica 2+1 non farebbe 3... Insomma, se l'utente domanda, Galactica risponde, e lo fa in un modo che sembra quasi convincente (non sempre, abbiamo visto sopra...). Peccato però che manchi correttezza scientifica, risultando così pericolosa nella diffusione di contenuti scientificamente scorretti.

🪐 Introducing Galactica. A large language model for science.

Can summarize academic literature, solve math problems, generate Wiki articles, write scientific code, annotate molecules and proteins, and more.

Explore and get weights: https://t.co/jKEP8S7Yfl pic.twitter.com/niXmKjSlXW

— Papers with Code (@paperswithcode) November 15, 2022

Meta si difende affermando che "Galactica non è una fonte di verità, ma un esperimento di ricerca che utilizza sistemi per apprendere e riassumere informazioni". Dopo appena due giorni gli sviluppatori che hanno lavorato al progetto hanno rimosso Galactica dalla rete. Troppo grande il rischio di diffusione di fake news.