15 Febbraio 2023
Le implicazioni di ChatGPT, lo sbalorditivo chatbot AI sviluppato dalla startup statunitense OpenAI, si fanno sempre più intricate e aprono a scenari molto complessi - e in un certo senso preoccupanti. Da un lato, The Information riporta che Microsoft starebbe già lavorando per incorporare il chatbot in alcuni dei suoi prodotti Office di punta, come PowerPoint, Excel e Outlook - anzi, che una non meglio specificata versione di esso sia già parte di Word per la funzionalità di completamento automatico; dall'altro, alcuni hacker sono riusciti a sfruttare il software per generare malware, per giunta tutt'altro che semplice e banale, perfettamente funzionante.
AGGIORNAMENTO: MICROSOFT VUOLE CONTINUARE A INVESTIRE IN OPENAI
MICROSOFT E L'INTEGRAZIONE IN OFFICE
Microsoft sembra particolarmente interessata all'impiego dell'intelligenza (artificiale) di ChatGPT riguardo a Outlook. Il bot potrebbe suggerire risposte perfettamente articolate e coerenti a una email, e ci si potrebbe perfino avventurare nel territorio di un assistente virtuale: si potrebbe per esempio ordinare al proprio client di posta di avvisare il team della propria assenza per malattia. Naturalmente i suggerimenti di composizione potrebbero facilmente essere trasferiti anche su Word.
Ma non solo. Il colosso di Redmond, che ricordiamo ha siglato un accordo di esclusiva per lo sfruttamento di GPT-3 poco più di due anni fa, starebbe pensando di lanciare una versione di Bing equipaggiata con il super chatbot; anzi, questa tecnologia sarebbe addirittura imminente, con un debutto previsto per questo marzo (facile immaginare che si tratterà di una beta, almeno inizialmente). È comprensibile che Microsoft cerchi di bruciare le tappe: potrebbe essere un vantaggio enorme rispetto all'attuale re dei motori di ricerca, Google, che ha confermato pubblicamente di voler adottare un approccio più cauto e misurato (anche se poi internamente sembra essere in totale "allarme generale").
ANCHE GLI HACKER SI CIMENTANO
Negli scorsi giorni Check Point Research ha fatto qualche ricerca sui forum dedicati al cybercrimine e ha scoperto che ChatGPT si sta facendo strada anche in questo particolarissimo settore. Il chatbot viene usato sia per fini di apprendimento sia per la realizzazione di malware puro - anche piuttosto complesso.
Per esempio, con una semplice manciata di comandi testuali un gruppo di utenti di un forum ha creato uno stealer in Python che cerca nel drive di sistema certe tipologie di file comuni, le copia nella cartella dei file temporanei, le comprime in un archivio ZIP e le invia a un server FTP. Un altro programma, questa volta in JavaScript, è capace di scaricare il client SSH/Telnet PuTTY su macchine Windows e lanciarlo tramite PowerShell all'insaputa dell'utente. PuTTY è naturalmente solo un esempio - potrebbe essere sostituito con qualsiasi app.
Check Point ha anche scoperto tentativi meno sofisticati ma decisamente non innocui, come tool crittografici in grado di generare chiavi, criptare i file, confrontare gli hash e non solo; e alcuni script pensati per il dark web in grado di usare API di terze parti per ottenere quotazioni aggiornate di certe crypto (prevalentemente Monero, Bitcoin ed ETH. Il dato più significativo che emerge è che gli hacker sono riusciti ad aggirare con una certa facilità le precauzioni previste da OpenAI.
UN FUTURO ANCORA INCERTO
È chiaramente ancora presto per capire fin dove riuscirà a spingersi questo software. Come abbiamo già avuto modo di osservare in passato, benché sia estremamente impressionante ChatGPT è tutto fuorché perfetto, soprattutto perché fatica ancora a distinguere la disinformazione dalla verità. Insomma, non è granché affidabile. È vero che detto così può sembrare un problema relativamente piccolo rispetto a tutto il resto, ma la storia ci insegna che è proprio nel perfezionamento che si incontrano gli ostacoli più significativi.
MICROSOFT VUOLE ARRIVARE AL CONTROLLO DI OPENAI
10/01
Semafor riporta che Microsoft vorrebbe finanziare ulteriormente OpenAI con una cifra pari a ben 10 miliardi di dollari. Il denaro dovrebbe essere accumulato in partnership con altri fondi d'investimento, e la relativa documentazione sarebbe già stata inviata ai potenziali partner. Ma ci sarebbero delle condizioni piuttosto importanti:
- Finché Microsoft non rientrerà nell'investimento, OpenAI le verserà ben il 75% di tutti i profitti
- Dopodiché, Microsoft riceverà il 49% delle quote societarie di OpenAI, diventandone di fatto l'azionista di maggioranza. Il resto delle quote sarebbe ripartito in: 49% agli altri investitori e 2% rimarrà di OpenAI. Vale la pena ricordare che OpenAI è un'associazione no-profit.
Siamo ancora nelle prime fasi della manovra e al momento nulla è stato ancora deciso.
Commenti
sta chatgpt fa pure i beat cantandoci sopra...ingreeedibbbole!
Va beh ci mancherebbe...
Dico solo che la strada è quella
Nadella a ChatGPT:
"Ciao ChatGPT, potresti darci qualche idea innovativa su come sviluppare videogiochi esclusivi per la nostra Xbox e magari potresti scrivere il codice per sviluppare Windows 11 altrimenti finiamo nel 2030? Sai vorremmo arrivare al punto in cui non saremmo costretti a comprare tutte le società di questo mondo per andare avanti".
vero... si sono concentrati talmente tanto a farla politically correct e "giusta", che non risponde mai a niente.
come chat e' troppo limitata, pero' ha diverse funzionalita' con grosso potenziale.
per esempio quella che ti genera testi promozionali, ecc... che gia da soli possono essere un ottimo spunto per fare post promozionali.
oppure la capacita' di generarti codice a partire dal linguaggio umano... non e' ancora in grado di rimpiazzare uno sviluppatore, ma diciamo che e' a buon punto per rimpiazzare chi fa css.
inoltre in futuro potrebbe essere uno strumento utile per il debug, visto che e' anche in grado di capire (piu' o meno) cosa fa una funzione.
ci vedo potenziale, ma non nella chat, troppo limitata e troppo politically correct
L'equivalente del martello, o costruisce o distrugge.
Oddio chiedere il saldo della proprio banca mi sembra davvero una cosa molto critica sia dal punto di vista della sicurezza che della integrazione tra sistemi. L'esempio delle news invece è perfetto , magari abbinato a una voce artificiale ben intonata che ti legga tale riassunto, ovviamente il sistema andrebbe messo on-line, visto che per ora si ferma a un database del 2021, giustamente fai notare che c'è un problema di costi , anche perché chatgp sembra molto esoso in termini di risorse, e di nuovo mi ripeto ,aldilà delle sperimentazioni come quella attuale, andrà trovato un sistema che renda profittevole il tutto :)
Per il momento viene utilizzato solo per ottenere contenuti di tipo informativo di dominio pubblico, ma sarebbe bello se in futuro si potesse chiedere "qual è il mio saldo?" e automaticamente si connette alla tua banca per ottenere l'informazione. Oppure qualcosa tipo "fammi un riassunto delle ultime notizie su hdblog" :)
Per il momento cose simili non sono possibili perché l'allenamento è troppo lento e costoso, ma chissà se Microsoft c'abbia davvero visto giusto
L'ho provato e, al livello attuale, non basta chiedere. Basta anche comprendere cosa genera la rete neurale, perché al di sopra di una certa articolazione della richiesta ChatGPT inizierà a generare codice che sembra corretto a prima vista ma che non funzionerà o farà tutt'altro.
Per certi versi, può essere paragonato ad una ricerca su Google: certamente puoi trovare codice di ogni tipo, ma devi capire cosa stai facendo. Con la differenza che mentre su Google devi cercare tra 20 pagine, leggerle tutte, trovare qualcosa di simile, copiare, adattare, eseguire, e così via, su ChatGPT hai subito l'output bello e pronto. Ma ripeto, non può fare nulla che qualcun altro non abbia già fatto
Microsoft ha fiutato l'affare. Sta cosa può rivoluzionare buona parte delle ricerche web, tanto per cominciare, se anziché farti vedere una serie di pagine web ,fornisce una risposta diretta con tutti i dettagli del caso, per l'utente il salto in avanti è evidente, certo va trovato un sistema per monetizzare tali ricerche......
Aspettate di vedere GPT-4
Questo coso non risponde mai alle mie domande.
ma che microsoft, è dello zio euolone
Non ne ho idea. Dissero che era una bufala ben architettata comunque...però il dubbio sul come facesse a sapere delle caratteristiche speciali del IBM 5100 rimane.
Ma che fine ha fatto John Titor? ipotizzando che sia morto/morirà nella nostra epoca, lui sa anche come e quando morirà?
Non c'è bisogno di nessuna legge di Asimov dato che la sua evoluzione è guidata da noi e non ci sarà mai bisogno di sviluppare tratti di autoconservazione o autodeterminazione
...quindi IA senza leggi di Asimov...
Il punto è che non serve essere hacker, basta chiedere...
Finanziatore e con contratto di esclusiva (non si sa di che durata)
Finanziato da Microsoft, come è stato finanziato anche da Amazon, è un consorzio, mentre il vero fondatore della startup è Elon Musk.
Non è di proprietà Microsoft, Microsoft fa parte del consorzio che è dietro OpenAI
"Per esempio, con una semplice manciata di comandi testuali un gruppo di utenti di un forum ha creato uno stealer in Python che cerca nel drive di sistema certe tipologie di file comuni, le copia nella cartella dei file temporanei, le comprime in un archivio ZIP e le invia a un server FTP"
certo sono messi male come hacker se hanno bisogno di chatgpt per creare un codice per fare queste semplice cose :P
il potenziale è ben maggiore che scrivere un misero codice
OpenAI è di proprietà Microsoft, quindi.....................
È ovvio: tutti i più grandi registi di fantascienza in realtà non attingevano alla loro fantasia, ma ad effettivi avvenimenti temporali che si sarebbero verificati da lì a qualche cinquantina d'anni.
Steven Spielberg andava in vacanza da John Titor in segreto, tanto per dire.