Non è esattamente attinente, ma mi accodo:
Google sta conducendo degli esperimenti su alcuni utenti (dal numero imprecisato), modificando volutamente i titoli e i contenuti di alcuni articoli, che appaiono nelle ricerche generate e sintetizzate con l'IA. In pratica, nelle sintesi AI appaiono dei titoli o delle frasi (creati con IA), che nei siti di riferimento, dai quali le notizie sono estratte, non esistono! Viene definito "piccolo test mirato".
Riporto un estratto dell'articolo:
L'IA non si limita a selezionare alternative già presenti nella pagina - andando magari a pescare tra quanto scritto nei tag, nelle intestazioni o nei metadati - ma genera titoli completamente nuovi tramite modelli IA, che non sempre creano alternative accurate, per non dire sensate. Come ha raccontato The Verge, alcuni titoli generati dall'IA sono completamente diversi dal senso dell'articolo, eliminando sfumature essenziali o introducendo interpretazioni fuorvianti. In certi casi l'IA ha prodotto titoli che non esistono in alcuna parte del contenuto originale.
Google afferma che l'obiettivo dell'esperimento è «migliorare la pertinenza dei titoli rispetto alle ricerche» e aumentare il coinvolgimento degli utenti. Non è stato però fornito alcun dettaglio sul modello utilizzato, sull'estensione del test, né su eventuali meccanismi di opt out per gli editori. Questa mancanza di trasparenza è uno dei punti più contestati dalle redazioni coinvolte.
Gli editori temono chiaramente che la sostituzione dei titoli possa compromettere la loro capacità di controllare come i contenuti vengono presentati agli utenti, con possibili ripercussioni sul traffico e sulla fiducia del pubblico.
Per i lettori, il rischio principale è la distorsione del contenuto prima ancora del clic: un titolo generato dall'IA può enfatizzare aspetti marginali, omettere elementi chiave o introdurre errori di fatto. Ciò può influenzare la percezione delle notizie e alimentare confusione, soprattutto in contesti sensibili come politica, economia o salute. Google non ha indicato se l'esperimento verrà esteso o interrotto. La storia recente delle sue implementazioni IA - come nel caso di Overviews- mostra che funzionalità inizialmente presentate come test limitati possono diventare permanenti anche in presenza di critiche.
Qui l'articolo integrale:
https://www.zeusnews.it/n.php?c=31932
Parlando di minaccia per la democrazia, mi è venuta in mente questa notizia. Ciò significa indirizzare volutamente il lettore verso un'opinione, o influenzare a monte la lettura di un articolo.
@Fukogama , direi che quanto riferito da Claude a Sanders sotto sua insistenza, come indicato dall'articolo a cui rimanda tuo link, non è poi così distante dalla realtà già attuale
.