Costruttori di Mondi

Non vi anticipo nulla, vi lascio solo il link all'articolo. 

Se capite l'inglese guardatevi il video e sentite con le vostre orecchie: è decisamente più impressionante rispetto a ciò che è meramente scritto nell'articolo.

https://www.ilpost.it/flashes/bernie-sanders-chatbot-claude-intelligenza-artificiale/

Sono senza parole, ma non è una sorpresa, solo che nessuno l'aveva mai detta in maniera così cruda. Bernie Sanders è un mito.

ciao P.

Non è esattamente attinente, ma mi accodo:

Google sta conducendo degli esperimenti su alcuni utenti (dal numero imprecisato), modificando volutamente i titoli e i contenuti di alcuni articoli, che appaiono nelle ricerche generate e sintetizzate con l'IA. In pratica, nelle sintesi AI appaiono dei titoli o delle frasi (creati con IA), che nei siti di riferimento, dai quali le notizie sono estratte, non esistono! Viene definito "piccolo test mirato".
Riporto un estratto dell'articolo:

L'IA non si limita a selezionare alternative già presenti nella pagina - andando magari a pescare tra quanto scritto nei tag, nelle intestazioni o nei metadati - ma genera titoli completamente nuovi tramite modelli IA, che non sempre creano alternative accurate, per non dire sensate. Come ha raccontato The Verge, alcuni titoli generati dall'IA sono completamente diversi dal senso dell'articolo, eliminando sfumature essenziali o introducendo interpretazioni fuorvianti. In certi casi l'IA ha prodotto titoli che non esistono in alcuna parte del contenuto originale.

Google afferma che l'obiettivo dell'esperimento è «migliorare la pertinenza dei titoli rispetto alle ricerche» e aumentare il coinvolgimento degli utenti. Non è stato però fornito alcun dettaglio sul modello utilizzato, sull'estensione del test, né su eventuali meccanismi di opt out per gli editori. Questa mancanza di trasparenza è uno dei punti più contestati dalle redazioni coinvolte.
Gli editori temono chiaramente che la sostituzione dei titoli possa compromettere la loro capacità di controllare come i contenuti vengono presentati agli utenti, con possibili ripercussioni sul traffico e sulla fiducia del pubblico.

Per i lettori, il rischio principale è la distorsione del contenuto prima ancora del clic: un titolo generato dall'IA può enfatizzare aspetti marginali, omettere elementi chiave o introdurre errori di fatto. Ciò può influenzare la percezione delle notizie e alimentare confusione, soprattutto in contesti sensibili come politica, economia o salute. Google non ha indicato se l'esperimento verrà esteso o interrotto. La storia recente delle sue implementazioni IA - come nel caso di Overviews- mostra che funzionalità inizialmente presentate come test limitati possono diventare permanenti anche in presenza di critiche.

Qui l'articolo integrale: https://www.zeusnews.it/n.php?c=31932


Parlando di minaccia per la democrazia, mi è venuta in mente questa notizia. Ciò significa indirizzare volutamente il lettore verso un'opinione, o influenzare a monte la lettura di un articolo. @Fukogama , direi che quanto riferito da Claude a Sanders sotto sua insistenza, come indicato dall'articolo a cui rimanda tuo link, non è poi così distante dalla realtà già attuale.

@ElleryQ

la cosa che mi ha più impressionato è quando claude ammette che l'unica strategia per regolare la IA è quella di uno stop o un rallentamento al suo sviluppo. La risposta è stata "imbeccata" da Sanders, ma è incredibile che la IA non abbia proposto altre alternative ... 

Non sapevo della nuova sperimentazione google, secondo me dovrebbe diventare obbligatorio etichettare qualsiasi cosa prodotta dalla IA spiegando che non si tratta di qualcosa di reale ed introdurre multe salate per chi non lo fa. Non so se risolverebbe il problema, ma potrebbe essere un primo argine.

@Fukogama , ormai la situazione sta davvero sfuggendo di mano in ogni settore in cui l'IA è usata come implementazione. Leggevo di occhiali AI, creati da RayBan in collaborazione con Meta, che possono far partire videoriprese senza autorizzazioni, sia collettive che individuali. Soprattutto queste ultime vengono già postate sui social. Video in cui persone ignare vengono avvicinate (da chi indossa gli occhiali), o persino molestate e viene ridicolizzata la loro reazione. La molestia diviene così un "acchiappa visualizzazioni e commenti", a tutto vantaggio dell'autore, che arriva anche a monetizzare la violazione commessa a danno altrui, grazie alle visualizzazioni ottenute. Violazione della privacy e incitazione a bullismo, molestie, eccetera...
In più, Meta prevede di aggiungere il riconoscimento facciale, per cui risalire all'identità della persona inquadrata e "presa di mira", diventerà ancora più semplice, con buona pace del diritto alla privacy. E tutto senza una regolamentazione, come dicevi tu.
Pensa se questi dispositivi venissero usati anche in maniera "legittima" da personale appositamente dotato; per esempio in contesti pubblici come cortei e manifestazioni, per individuare e schedare le persone, anche semplici e ignari passanti.