Google sta attualmente testando una nuova funzione per il suo motore di ricerca che riprende molti aspetti delle AI Overviews, con l’obiettivo di fornire risultati sintetizzati dalle informazioni disponibili online. Tuttavia, la caratteristica più importante di questa nuova implementazione sembra essere l’eliminazione di un problema significativo che ha afflitto le AI Overviews originali: le cosiddette “allucinazioni” o risultati errati.
Le AI Overviews, introdotte durante il Google I/O 2023, erano state pensate per riassumere rapidamente le risposte alle query di ricerca, con il supporto dell’intelligenza artificiale. Tuttavia, la loro implementazione iniziale ha causato diverse critiche a causa di gravi inesattezze. Alcuni esempi sono diventati virali, come il suggerimento di aggiungere colla alla pizza per far aderire meglio il formaggio, o la bizzarra affermazione secondo cui gli astronauti avrebbero trovato gatti sulla luna.
Questi episodi hanno messo in discussione l’affidabilità dell’IA di Google nel fornire risultati precisi. In seguito a questi problemi, Google ha limitato l’uso delle AI Overviews e ha migliorato la qualità delle fonti utilizzate. In particolare, ha evitato di attingere a siti come Reddit o Quora, che spesso ospitano contenuti non verificati. Tuttavia, l’azienda non ha abbandonato l’idea di fornire risposte rapide e concise tramite IA e ha iniziato a lavorare su una nuova versione di questa tecnologia.
La nuova funzione di ricerca, ancora in fase di test, sembra voler risolvere i problemi delle AI Overviews mantenendo comunque una struttura simile. La differenza principale risiede nell’eliminazione delle “allucinazioni“, ossia quei risultati completamente fuori luogo o non verificati, grazie a un miglioramento significativo degli algoritmi e delle fonti di dati. Google afferma che la nuova funzionalità, benché simile nell’aspetto, è completamente diversa nelle basi tecnologiche e dovrebbe essere molto più affidabile.
Una delle prime segnalazioni di questa nuova funzione è arrivata da Barry Schwartz, noto esperto SEO, attraverso un post su X (precedentemente Twitter). Schwartz ha fatto notare che, a differenza delle AI Overviews, la nuova funzione non presenta più in modo evidente l’indicazione che i contenuti siano generati da un’IA. L’etichetta “Generato dall’IA” appare solo cliccando su un piccolo pulsante “Altro” sotto il riassunto, rendendo meno immediata la consapevolezza da parte dell’utente che le informazioni siano sintetizzate dall’intelligenza artificiale. Questa scelta di design ha sollevato alcuni dubbi tra gli esperti del settore, poiché l’assenza di una chiara etichettatura potrebbe far interpretare i riassunti come informazioni verificate, quando in realtà sono generati da un algoritmo. Il rischio è che l’utente non si accorga della differenza tra contenuti umani e contenuti generati dall’IA, portando potenzialmente a una fiducia eccessiva nei risultati. Nonostante queste criticità,
Google insiste sul fatto che questa nuova funzionalità rappresenti un progetto separato dalle AI Overviews originali. Essendo ancora in fase sperimentale, ci si aspetta che Google apporti modifiche e miglioramenti prima di un lancio ufficiale. Uno degli interventi più attesi è la reintroduzione di un’etichettatura AI più evidente, così da evitare confusioni e assicurare agli utenti una chiara distinzione tra contenuti verificati e generati.