Costruttori di Mondi

Claire1987 wrote: Dopodiché, diventando di uso quotidiano, diventerà normale distinguere un contenuto umano da uno prodotto dall'IA. Così come ormai tutti sono abituati a distinguere le modifiche fatte con Photoshop nelle foto delle riviste o la CGI nei film. La tecnologia è nuova oggi, ma domani sarà solo un altro componente delle nostre vite.

Mi permetto di dissentire sulla capacità delle masse di distinguere tra produzione umana e produzione AI. L'attuale andazzo fa propendere, invece, per l'assenza di esame critico di ciò che viene propinato dai media, in particolare dai social. Non da parte di tutti, è ovvio, ma dalla maggior parte dell'utenza. Non credo che la generalità dei lettori sarebbe in grado di distinguere il prodotto dell'AI da quello umano, anzi, credo che molti finirebbero per preferire il mainstream preconfezionato in base alle loro preferenze. Consideriamo che, già oggi, per la massa una balla ripetuta due o tre volte diventa realtà: se così non fosse, certi soggetti non sarebbero mai arrivati al potere.

Le intelligenze artificiali possono essere davvero di supporto per chi scrive? In un'altra sezione avevo postato la questione, dove avevo sottoposto a una IA un brano chiedendone un giudizio; dal confronto con altri, sembra che avere un giudizio davvero critico sia arduo. Non so per il futuro, ma stando così le cose non è, a mio avviso, di molto aiuto.
Comunque, posto due video che si pongono la questione dell'uso delle IA nella scrittura.

@M.T. Completamente d'accordo con l'autore del primo video. Il secondo mi ha riportato alla memoria un episodio di un quarto di secolo fa: gestivo una mia società di consulenza alle imprese, e avevo spesso contatti con altri consulenti. Mi ero appena deciso a usare il computer - cosa che in precedenza avevo sempre lasciato ai miei collaboratori - considerandolo ormai un male necessario divenuto indispensabile per la gestione corrente dell'attività. Incontrai un giorno un mio conoscente, col quale avevo avuto a che fare anni prima, che faceva il mio stesso mestiere, con risultati non molto brillanti, per quel che ricordavo. Più giovane di me, mostrava, parole a parte, l'atteggiamento fisico-corporeo di un individuo depresso. Mi aveva interpellato lui, per propormi di affiancarlo nella consulenza a un'azienda sua cliente, per la quale non riusciva a ottenere finanziamenti dal sistema bancario. Alla mia richiesta di rappresentarmi la situazione, accese il computer (eravamo nel suo ufficio) dichiarando: "non ho bisogno di segretarie o collaboratori, perché io e lui (il computer) siamo in due". L'azienda non otteneva finanziamenti perché i bilanci erano taroccati, come appariva chiaramente a un occhio esperto, ma era necessario ragionarci sopra con mente critica, cosa di cui il suo amico computer non era capace. Non credo che le cose, mutatis mutandis, siano, in sostanza, cambiate da allora a oggi: delegare a un'AI (o IA, se preferite) funzioni proprie della mente umana, contribuisce a paralizzarne le capacità critiche e creative. Secondo me, è ovvio.   

Stefano R wrote: Per quello che ho capito io, la IA rielabora un'enorme mole di materiale che ha in qualche modo imparato, e che deriva dall'ingegno umano. Ma il vero artista inventa qualcosa di nuovo, non rielabora solamente ciò che ha assimilato. Ci riuscirà un domani la IA? Temo, e nello stesso tempo spero, di no.

Per rispondere anche a @Claire1987  ci sono IA che già fanno meglio di noi. 
Un esempio è il test fatto qualche tempo fa: un'IA non ha rielaborato ma ha proprio creato di sana pianta uno spartito musicale studiano un grande autore di musica classica del passato di cui ora non ricordo il nome.
Fatto ascoltare ai massimi esperti di quell'autore tutti hanno confermato senza dubbi che fosse una composizione del suddetto e anzi, molti l'hanno giudicata la migliore mai sentita (!) chiedendo da dove fosse sbucata fuori quella sinfonia.

Quanti di noi rielaborano? Quanto si può ancora inventare? E si può davvero scrivere qualcosa di mai scritto prima? O la nostra è solo una continua rielaborazione del passato? Quindi cosa ci differenzia da un'IA? In fondo il nostro cervello non è altro che un elaboratore di algoritmi (leggete Kanneman...), solo molto più potente della media...

Cheguevara wrote: Mi permetto di dissentire sulla capacità delle masse di distinguere tra produzione umana e produzione AI. L'attuale andazzo fa propendere, invece, per l'assenza di esame critico di ciò che viene propinato dai media, in particolare dai social. Non da parte di tutti, è ovvio, ma dalla maggior parte dell'utenza. Non credo che la generalità dei lettori sarebbe in grado di distinguere il prodotto dell'AI da quello umano, anzi, credo che molti finirebbero per preferire il mainstream preconfezionato in base alle loro preferenze. Consideriamo che, già oggi, per la massa una balla ripetuta due o tre volte diventa realtà: se così non fosse, certi soggetti non sarebbero mai arrivati al potere.

Questo perché al momento ci viviamo dentro. La stiamo guardando nascere e la vediamo evolvere. Inoltre, c'è ancora il caos a livello legislativo e zero regole (o quasi) per l'utilizzo dell'IA in ambito creativo o professionale.
Ma tra 60-80-100 anni, quando tutte le generazioni viventi saranno nate che l'IA era già realtà consolidata, io penso che nessuno si porrà più questo problema. Sarà semplicemente una cosa endemica, che fa parte del quotidiano e io credo che le prospettive saranno completamente diverse.

Forse anche il concetto di realtà sarà completamente diverso.

Brutus wrote: Per rispondere anche a @Claire1987  ci sono IA che già fanno meglio di noi. 
Un esempio è il test fatto qualche tempo fa: un'IA non ha rielaborato ma ha proprio creato di sana pianta uno spartito musicale studiano un grande autore di musica classica del passato di cui ora non ricordo il nome.
Fatto ascoltare ai massimi esperti di quell'autore tutti hanno confermato senza dubbi che fosse una composizione del suddetto e anzi, molti l'hanno giudicata la migliore mai sentita (!) chiedendo da dove fosse sbucata fuori quella sinfonia.

Quanti di noi rielaborano? Quanto si può ancora inventare? E si può davvero scrivere qualcosa di mai scritto prima? O la nostra è solo una continua rielaborazione del passato? Quindi cosa ci differenzia da un'IA? In fondo il nostro cervello non è altro che un elaboratore di algoritmi (leggete Kanneman...), solo molto più potente della media...

Per caso mi sai citare l'articolo o la fonte di quell'esperimento? Mi piacerebbe molto leggerlo.
In ogni caso, ricordiamoci che la musica è matematica, quindi non mi stupisce più di tanto che sia stato creato uno spartito musicale su schemi di un autore esistente.

Tuttavia, l'IA non può improvvisare qualcosa di nuovo. Non può diventare essa stessa autrice senza rifarsi prima a qualcun altro. Sta qui la differenza: prima deve nascere l'artista, poi l'IA potrà limitarsi a copiarlo o rielaborare le sue idee.

Personalmente, però, non sarà mai la stessa cosa.

Claire1987 wrote: Ma tra 60-80-100 anni,

E' possibile che sarà come tu dici, ma anche no. E io di sicuro non ci sarò per constatarlo. Allo stato attuale, l'unico su cui sono in grado di esprimermi con cognizione di causa, non mi piace. Per niente.  

Claire1987 wrote: Per caso mi sai citare l'articolo o la fonte di quell'esperimento? Mi piacerebbe molto leggerlo.
In ogni caso, ricordiamoci che la musica è matematica, quindi non mi stupisce più di tanto che sia stato creato uno spartito musicale su schemi di un autore esistente.

Tuttavia, l'IA non può improvvisare qualcosa di nuovo. Non può diventare essa stessa autrice senza rifarsi prima a qualcun altro. Sta qui la differenza: prima deve nascere l'artista, poi l'IA potrà limitarsi a copiarlo o rielaborare le sue idee.

Personalmente, però, non sarà mai la stessa cosa.

Purtroppo non ricordo di preciso dove l'ho letto, di sicuro era un libro di antropologia culturale di Harari oppure "Pensieri lenti e veloci" di Kanneman, mi spiace non poter essere più preciso.
Concordo che l'IA sia brava a rielaborare ma, di fondo, è quello che fanno tutti gli artisti: rielaborano. Cos'è una novità? Un'improvvisazione? Davvero ai giorni nostri si può inventare qualcosa di nuovo? O è solo l'ennesima rielaborazione di qualcosa che ci ha ispirato? E quanto di quello che si produce si può davvero definire arte?

Non credo proprio dovremo aspettare neppure i 60 anni. A livello di società comune ci sono voluti 30 anni per portare Internet da 0 a com'è oggi, e 5 anni per l'IA da 0 quella di adesso: l'incremento mi pare piuttosto indicativo, nonchè preoccupante.
L'IA è brava a rielaborare: vero, ma non tutto, o almeno, non tutto bene;  forse non si nota negli articoli o nei post, che spesso sarebbero ugualmente leziosi, ma sulla narrativa, credo abbia ancora da imparare.
L'IA non può sostituire l'ingegno e l'arte umana: non ancora, se vogliamo coccolarci e darci una pacca sulla spalla, perché fra una manciata di anni non sarà più così. In fondo siamo noi il prototipo dell'IA, con la piccola differenza che abbiamo un limite, mentre il suo non sappiamo ancora quale sia. 

Che differenza c'è fra noi e l'IA? A livello soggettivo, l'IA dovrebbe imparare dai propri errori, noi spesso neppure da quelli... 
A livello comportamentale, nessuna. Lei rielabora, noi rielaboriamo (altrimenti, per banalizzare, non esisterebbero i plagi); può essere diverso il metodo, ma il risultato è simile. I topoi, o trope, sono già uno stigma ufficiale della narrativa: nelle diverse decine di milioni di scritti esistenti al mondo, possiamo davvero convincerci di poter produrre qualcosa di nuovo? 

Rimanendo in ambito letterario, credo che quello che al momento ci salva e differenzia, sia l'imprevedibilità dell'essere umano: almeno fino a che non imparerà anche quella.

Lascio qui un articolo di Stefano Bartezzaghi che ha analizzato un libro uscito l'anno scorso in cui sono stati messi a confronto un'autrice esordiente, quindi ancora non riconoscibile dal pubblico lettore, e l'IA nella scrittura di un racconto narrativo. 

È un esperimento molto interessante anche perché sia umana che macchina hanno ricevuto gli stessi prompt con la stessa modalità.

Qui il link all'articolo 

Da lettore mi sento consolato dal fatto che è stato pubblicato così tanto materiale che non mi basterebbero 3 vite per esaurirlo.
Per quanto riguarda la scrittura ho perso la motivazione, mi piace molto scrivere e per me è quasi un esigenza, devo però constatare che anche per via dell'intelligenza Artificiale forse non pubblicherò mai nulla.
Ho provato a fare generare alcuni testi a ChatGpt e nessun software di analisi come GptZero si è accorto che era stato generato e non scritto da un essere umano.
A questo punto il senso di pubblicare qualcosa che oltre al contenuto punta anche ad avere un certo stile perde di senso.
Ho smesso di partecipare a concorsi di poesia per il timore di essere messo da parte rispetto chi utilizza l'AI, sento di aver perso qualcosa da quando circolano questi algoritmi generativi.
Inoltre, come si fa a dimostrare che un testo è scritto di proprio pugno? 
L' autorialità scomparirà del tutto?

Sienna wrote: Rimanendo in ambito letterario, credo che quello che al momento ci salva e differenzia, sia l'imprevedibilità dell'essere umano: almeno fino a che non imparerà anche quella.

Sta proprio qui la differenza principale: l'imperfezione umana. I suoi errori, la sua imprevedibilità, nessuna macchina riuscirà mai a riprodurli, perché dipendono da elementi molto soggettivi come il carattere e le esperienze, che sono uniche come un'impronta digitale.

Kikki wrote: È un esperimento molto interessante anche perché sia umana che macchina hanno ricevuto gli stessi prompt con la stessa modalità.

La metafora del gioco è azzeccata, credo sia lo spirito con cui molti oggi si approcciano alle nuove tecnologie: una via di mezzo tra una sfida e un'infantile desiderio di essere sorpresi. Un po' come quando i bambini fanno giochi di ruolo: "facciamo finta che... ". Bello, letto volentieri. E, a proposito del testo esaminato: "a Maia si strinse il cuore in gola" a me piace, è più immediato di "le si strinse la gola" o "le saltò il cuore in gola", è una sorta di sinestesia. Non avrei saputo dire se l'avesse scritto un'IA o un umano dallo stile poetico.

OlSir wrote: A questo punto il senso di pubblicare qualcosa che oltre al contenuto punta anche ad avere un certo stile perde di senso.
Ho smesso di partecipare a concorsi di poesia per il timore di essere messo da parte rispetto chi utilizza l'AI, sento di aver perso qualcosa da quando circolano questi algoritmi generativi.
Inoltre, come si fa a dimostrare che un testo è scritto di proprio pugno? 
L' autorialità scomparirà del tutto?

Credo che siano domande quantomeno premature. La maggior parte di chi scrive non ha uno stile riconoscibile, e chi usa queste tecnologie in genere lo fa per ricerche o comunque dettagli. Non si può scrivere interi testi o poesie decenti con le IA, e se anche divenisse possibile non ne vedrei il senso: in Italia ci sono più scrittori che lettori. Mi preoccuperei più della situazione disastrosa dell'editoria in generale, dove si arriva solo per scuole e agenzie blasonate o conoscenze, che per il paragrafo scritto con l'"aiutino". È come preoccuparsi per la qualità o il retrogusto del vino quando il vigneto e tutta la regione attorno stanno andando a fuoco

L'intelligenza artificiale è già in grado di scrivere articoli di giornale. Infatti su internet si trovano montagne di articoletti scritti da IA. La scrittura creativa è ancora acerba, ma io temo che col tempo anche il ruolo dello scrittore umano verrà meno, come del resto sta accadendo per disegnatori, video maker, grafici pubblicitari, ecc.

Silverwillow wrote: Non avrei saputo dire se l'avesse scritto un'IA o un umano dallo stile poetico.

Da quello che so, a tanti è successo di non riuscire a distinguere il testo della IA da quello della scrittrice. Credo che succeda questo perché, negli ultimi anni, siamo molto educati a rispettare tante regole che limitano profondamente l'espressione di ognuno di noi. Non sto facendo un discorso sul se sia o meno giusto rispettare quali regole! Quello che dico è che il risultato è standard, in pochi cercano di uscire da questo standard. In questo spazio si muove la IA, noi ce la lasciamo muovere.

OlSir wrote: Inoltre, come si fa a dimostrare che un testo è scritto di proprio pugno? 
L' autorialità scomparirà del tutto?

non penso che scomparirà. Ci saranno gli autori IA e quelli no, la situazione si evolverà ancora e usciranno altri strumenti o verranno affinati questi. Ma scrivere narrativa, soprattutto in Italia, deve essere un piacere considerando che non si può scrivere per sopravvivere. A parte poche eccezioni. Pochissime, rispetto a quanti sono gli autori.

Akhaten wrote: ma io temo che col tempo anche il ruolo dello scrittore umano verrà meno,

Io uso la IA per il controllo della coerenza della trama, dell'arco dei personaggi, per semplificare sinossi, per creare strutture che reggano, per suddividere una storia in capitoli. Lavoro con la IA finché non ottengo quello che voglio. Mi è capitato spesso di buttare via tutto, ma questo perché non sono ancora capace di usare al meglio la IA e faccio molti sbagli. Ogni volta che ho tenuto qualcosa di realizzato da IA, l'ho comunque rielaborato, revisionato e corretto. Non mi è mai successo di usare un testo creato dalla IA nella sua forma originale.

Cedo che, come ogni cosa, serva equilibrio, bisogna imparare a usare la IA perché tanto non ce ne libereremo, e bisogna imparare a farlo prima che lei impari a usare noi. Anche perché noi, esseri umani, intendo, siamo bravissimi a perderci dentro questo tipo di dinamiche in cui pensiamo di usare la macchina per poi finirne fagocitati.

Sto pensando di farmi aiutare da chat gpt per scrivere la sinossi del mio romanzo. In particolare vorrei scriverne una da solo, ma senza limiti di cartelle, per poi farla riassumere alla AI in modo che rientri nel limite massimo imposto dalle case editrici.

Io ho provato a sottoporre a ChatGPT un capitolo di un mio libro, dando delle indicazioni precise. (non sto qui ad elencarle per non annoiarvi).
Mi ha restituito un testo con errori grammaticali e tempi dei verbi sbagliati. Di sua iniziativa aveva anche aggiunto un personaggio. Lo svolgimento era mediocre. Parlo ovviamente della versione free.
Del tutto diversa la risposta quando ho inviato dei dati per creare un manuale tecnico. In questo caso il lavoro è stato di buon livello. Credo sia già in grado di fornire un aiuto per il lavoro tecnico dove non ci sono emozioni o creatività.
La mia impressione è stata che l' IA, in questa fase, usi la versione free solo per raccogliere dati che servono ad "addestrarla" 

La AI è ottima nel settore quantitativo, credo proprio perché è il suo settore naturale quindi viene addestrata in modo efficace. Mi sono divertito a sottoporre alla versione free di chatGPT problemi complessi di Meccanica razionale e mi ha tornato sempre delle soluzioni concise e corrette.
Non credo affatto sia così altrettanto brava nella parte creativa, ma in tal senso ancora non l'ho testata.
Ogni persona ha il suo stile, la sua "firma", questo nessuna IA credo sarà mai in grado di generarla.
Per il resto, io sono uno della retroguardia che preferisce far ragionare l'intelletto.

Silverwillow wrote: È un argomento complicato per molti versi (soprattutto la mancanza di una legge sul copyright e la questione morale se sia lecito o no per un autore servirsi di queste nuove tecnologie, o se non sia un po' come "barare"), quindi mi farebbe piacere discuterne.

Come argomento è effettivamente interessante, cercavo proprio una discussione simile. La questione è intrigante proprio sul piano del "barare" e sull'utilità che può avere l'intelligenza artificiale. Ho seguito tempo fa un seminario che introduceva la questione, un assaggio, insomma. Una buona sintesi è tale immagine: un arto aggiunto a quelli dell'uomo e l'avidità dell'uomo nel cercare sempre di superarsi e avere più controllo sulla natura (era un seminario filosofico). Il dettaglio che rassicura è l'impossibilità di imitare il pensiero umano.

Silverwillow wrote: Ma andando avanti le risposte mi sono parse sempre più fredde. Ogni volta che ho provato a dare un input emotivo (Qual è il tuo colore preferito? o Cosa ne pensi di...?) mi è arrivata la stessa risposta: "Non sono programmata per esprimere pareri o preferenze, ma posso dirti quello che vuoi su quest'argomento".

Questo secondo me è importante, apprezzo che ci sia questa freddezza perché deve essere chiaro con cosa si sta parlando e che dall'altra parte non ci sia una persona, per menti fragili potrebbe essere un problema se questa mostrasse dei tratti troppo emotivi e potrebbe portare a difficoltà sociali da non prendere sottogamba. 

Silverwillow wrote: Io mi sono iscritta (è gratuito, basta registrarsi con email e password) solo per curiosità.

Ad ogni modo, mi sono iscritta per lo stesso motivo, sebbene più orientata verso la ricerca e lo studio, un braccio in più in tale settore. Non ho ancora provato a includere la scrittura, ho giusto provato a esporre uno scritto o un'idea per curiosità. Interessante, ma troppo accondiscendente, troppi complimenti per i miei gusti. Infatti, vorrei provare a sottoporre qualcosa e chiedere i punti che non vanno, per vedere cosa ne può uscire. Il tutto però per estrema curiosità, in quanto, poi, mi viene di tornare da sola su carta. Sono estremamente caotica e, sinceramente, non so quanto possa tornarmi utile.

Silverwillow wrote: Quello che vorrei sapere è se qualcuno ha avuto esperienze e/o ha consigli da dare. Ma mi piacerebbe anche sapere cosa ne pensate in generale: può essere uno strumento utile (se usato bene), o può diventare una comoda scorciatoia priva di coscienza e di certezze, e quindi una minaccia al lavoro di giornalisti e autori seri?

Complessivamente né osanno e né demonizzo l'utilizzo, purché sia un'aggiunta allo scrittore: l'intelligenza artificiale non deve sostituirlo, lo scrittore non deve pensare che può far fare tutto il lavoro, lo scrittore deve restare lui. Personalmente, ricevere troppo aiuto lo troverei scarsamente stimolante, per come sono fatta, anche se me ne lamento, amo entrare in conflittualità con il mio inchiostro, fa parte del pacchetto, no? Avere difficoltà, risolverle, portare a compimento. Quindi, userei per scopi assolutamente marginali e non vivi e centrali. 
Non mi sento minacciata, comunque, non credo sia un rischio, l'unico rischio è che si possa intendere una scorciatoia che, peraltro, manco c'è.

Anche sul piano culturale, vorrei aggiungere un appunto.
ChatGPT è utile, ma resta una sintesi, una fonte che va approfondita. Anche in questo non deve essere sostituita all'uomo nella sua ricerca della cultura, nella lettura intera dei libri, degli argomenti, eccetera. 

Aggiungo un fatto curioso, sentito proprio al seminario di cui ho parlato all'inizio.
L'intelligenza artificiale è stata adoperata anche in campo artistico: nell'emulazione di uno stile artistico. Sono stati sottoposti diversi dipinti di un autore deceduto e da questo hanno chiesto di produrre dei nuovi quadri secondo questo stile. Il risultato è stato molto buono, ma la domanda che mi pongo subito è quanto sia giusto e quanto fuoriluogo.
Sono fortemente convinta che è un tipo di domanda che bisognerebbe porre a cadenza regolare, domandarci oltre che fare rende il fare migliore nelle sue fondamenta.