Costruttori di Mondi

@bestseller2020 
Una risposta generica ai tuoi punti.

Sia per lavoro che in privato uso "purosangue" delle IA.
Sul lavoro l'80% del mio tempo è da un anno a questa parte diventato essenzialmente "scrivi prompt, verifica la risposta, ripeti il ciclo, e quando il risultato è sufficiente completa il task". Ormai i miei prompt sono così accurati che spesso termino tutti i miei compiti in una o due iterazioni, talvolta tre. Difficilmente necessito di più iterazioni.

Questa skill si è trasferita al mio uso privato delle IA.
Nonostante ciò, le mie IA "purosangue" (Claude, Gemini e i modelli che vengono con Cursor) in determinati compiti non riescono a raggiungere la sufficienza. E questo indipendentemente dai miei prompt, dal sistema che ho costruito intorno, dal contesto (enorme) che gli ho fornito, dalle skill/Gem che ho scritto, dagli Agenti che ho programmato, dalle automazioni che ho implementato.

Ci sono certi compiti per cui i modelli generici attualmente disponibili non sono ancora pronti. La scrittura creativa di testi lunghi (novella o più) è uno di questi. Hai mai provato a leggere Shy Girl di Mia Ballard (o meglio, della sua IA)? È un'esperienza che non auguro a nessuno... e forse oggi non è nemmeno possibile per nessuno, credo sia stato ritirato dal mercato.
La traduzione a livello professionale di un testo più lungo di una pagina è un altro di questi compiti. Le IA vanno in palla, traducono letteralmente passaggi idiomatici o si inventano/eliminano intere frasi.

Le IA possono sostituire il lavoro creativo umano?
Forse, ma solo quello altamente ripetitivo e codificato. Sono almeno due anni che vedo grafiche aziendali o Power Point generati solo dall'IA. Come dici tu, in quell'ambito il costo più basso, e soprattutto la velocità di esecuzione di cicli e iterazioni, le rende imbattibili.

Ma lavoro artistico di nicchia, altamente personalizzato e/o all'avanguardia? No, per quello non ci sono ancora. Né ci saranno mai: coi tempi di allenamento, saranno sempre indietro alcuni mesi rispetto alle punte di diamante "umane".

Senza contare che il fattore costo è una variabile che può diventare altamente volatile. Per ora i costi delle IA sono contenuti in maniera artificiale per via dell'influsso continuo di investimenti alle grandi aziende. Quando questi investimenti diminuiranno un poco, gli abbonamenti ai "purosangue" cresceranno esponenzialmente... e allora vedremo se davvero una IA sarà più economica di un essere umano.

@Albascura Contariamente a quanto afferma, l'amico @bestseller2020 non è nuovo qui in Agorà. Bisogna però andare parecchio indietro, ai primi tempi dell'invasione di Putin in Ucraina, per riscoprirne le posizioni filorusse. Posizioni che è legittimo assumere, naturalmente, ma che venivano portate avanti con le stesse tecniche e toni che ora infastidiscono la tua intelligenza. Così, tanto per puntualizzare.

Se posso essere lapidario: uno scrittore che utilizza brani generati dall'AI non è uno scrittore, sarebbe un po' come definirsi contadini perché si ha l'orto su Farmville. 
Sull'utilizzo dell'AI come generatore di spunti, correttore o limatore di frasi o periodi, dubbi sulla punteggiatura posso anche starci. Io la utilizzo per lavoro, prettamente a scopi di ricerca o di aggregazione di fonti, sentenze ecc. e le riconosco una certa utilità, ma guai se uscisse dai panni del "servitore" per diventare "alla pari". 
Inutile dire che così com'è al momento è diventata l'ennesima arma di distrazione di massa mentre il capitalismo l'ha adottata per fare carne da macello e licenziare, risparmiare, guadagnare. 
A rileggerci.
L.

Cheguevara wrote: Posizioni che è legittimo assumere, naturalmente, ma che venivano portate avanti con le stesse tecniche e toni che ora infastidiscono la tua intelligenza

Potrei essere d'accordo con te, @Cheguevara  ma non ho letto la chat in questione. Comunque eviterei di portare questa discussione in territori melmosi. Restiamo qui. 
@
@Mid ci ha dato ottime informazioni. Il suo contributo riporta la conversazione su un terreno concreto e, soprattutto, utile: 
Ci ha iutato a capire dove l’IA può essere un supporto e dove invece non può sostituire l’autore. 
La parte che sarebbe interessante esplorare è quella che vede lo scrittore davanti al PC per scrivere una trama che ha in testa e vuole usare l'IA come uno strumento che gli farà risparmiare tempo. Da dove partire? e soprattutto dove fermarsi e non permettere alla macchina di scirvere al posto dello scrittore.
Le idee in questo senso dovrebbero essere davvero molte. Ognuno ha il suo modo di usare qualsiasi strumento di scrittura. Io, per esempio, avevo la licenza per scrivener, ho fatto un corso on line per usarlo ma alla fine ho abbandonato tutto. Faccio i memo e li appiccico sul muro. 
Mi piacerebbe sapere se, chi tra chi leggerà la discussione, ha un metodo preciso con l'IA. 
Ho visto un video di un creatore di contenuti, lui afferma che in un sondaggio viene fuori che più del 50% degli scrittori intervistati non direbbero mai apertamente nemmeno di farne uso per scalettare. Gli scrittori non ammettono di usare l’IA perché temono il giudizio e i pregiudizi dei lettori, che interpretano l’uso dell’IA come “barare”.
 Parlarne apertamente, invece, sarebbe la cosa più giusta da fare. Ci sono cose che l'IA può fare e altre che sarebbe meglio fossero un limite. Parliamone.

@Cheguevara ciao.. 

Cheguevara wrote: @Albascura Contariamente a quanto afferma, l'amico @bestseller2020 non è nuovo qui in Agorà. Bisogna però andare parecchio indietro, ai primi tempi dell'invasione di Putin in Ucraina, per riscoprirne le posizioni filorusse. Posizioni che è legittimo assumere, naturalmente, ma che venivano portate avanti con le stesse tecniche e toni che ora infastidiscono la tua intelligenza. Così, tanto per puntualizzare.

Sarò stato fastidioso, ma almeno franco. Poi qui si discute, si domanda e si riceve la risposta. Ora sono in credito e aspetto. Io ho ribadito quello che penso ma venendo frainteso. Alba spesso lancia la pietra e nasconde poi la mano. Io sono stato fin troppo chiaro per essere poi frainteso. La AI non può assolutamente aiutarti nell'inventiva: in quale salsa lo devo dire? Ho detto che è un potenziale mezzo per aiutarti a gestire un lavoro: basta. Ma ho anche detto che ci sono livelli di prestazioni delle AI che necessitano altrettanta capacità per usarle. In quanto poi a quanto chiede @Albascura sulle informazioni che si possono dare nell'esperienza di chi ne fa un certo uso, beh! Io non sono intenzionato a darle. Posso solo dire che ci vuole applicazione, conoscerne i limiti. @Mid ha evidenziato quello tecnico per lunghi racconti, o romanzi. Limiti in cui io stesso incappo, ma che ho cominciato a inquadrare e risolvere. Sono fermamente convinto, che AI può essere utile solo per chi ne sa conoscere e apprezzare le caratteristiche. 

@Albascura ciao

Albascura wrote: inoltre, continui a evitare il punto centrale: l’IA appiattisce la voce dell’autore?

Ti giro la domanda: per quale ragione dietro a un racconto deve per forza identificarsi l'autore? Il racconto è solo esclusivamente la vita dei protagonisti e considerando che oramai la voce narrativa è sempre più estranea e neutra, la figura dell'autore non ha nessuna importanza. Avrebbe un senso se un autore producesse sempre secondo uno stile, ma ci sono tanti autori che cercano di non comparire come uno stile,
ma per le visioni che possono suscitare. Io credo che AI ti permetta di rimanere in incognito come autore, ma forte in tutti gli elementi che contribuiscono a formare un libro. Quindi la mia risposta è si per una parte, ma con tanto di distinzioni. 

Albascura wrote: Introduci elementi non verificabili (“sondaggi coperti da privacy”, “AI da 800K”, “professionalità necessaria per domare la macchina”)

Vedi, questo è lanciare la pietra e nascondere la mano. Sono sondaggi che sono stati sottoposti nelle piattaforme in cui sono iscritto e per il quale si poteva partecipare come esterni. Negare o mettere in dubbio è altrettanto fastidioso come le mie reazioni..

www.consiglionazionaleforense.it/web/cn ... /24697-375

bestseller2020 wrote: Limiti in cui io stesso incappo, ma che ho cominciato a inquadrare e risolvere.

bestseller2020 wrote: per quale ragione dietro a un racconto deve per forza identificarsi l'autore?

 Rispondo a questi due passaggi nello stesso messaggio, perché ritengo siano correlati.

Quando parli di "limiti che hai cominciato a inquadrare e risolvere", quello che leggo è: "tante iterazioni per affinare prompt, contesto, skill ed eventuali automazioni, e nonostante tutto il risultato non è ancora soddisfacente".

Io lavoro per una multinazionale che è partner strategico di una delle Big 5. In altre parole, abbiamo accesso privilegiato ai modelli più recenti e supporto diretto dagli sviluppatori.
Nonostante questo, nonostante il fatto che l'azienda si occupi di uno dei campi dove l'IA funziona meglio (sviluppo software), e nonostante sui nostri processi IA lavorino squadre e squadre di esperti, ancora non siamo riusciti a terminare di risolverne i problemi.

Arrivare a un risultato "mediocre" è questione di pazienza. Arrivare a un risultato "buono" è questione di mezzi. E i mezzi attualmente a disposizione di tutti i possibili utenti non sono all'altezza.

E qui parlo dell'identificazione dell'autore in un testo.
È qualcosa di necessario? No, chiaramente. Un testo è una stringa di caratteri che il cervello interpreta durante la lettura. Che quella stringa sia frutto del lavoro di un individuo, sia generata casualmente da una scimmia che pigia tasti random su una macchina da scrivere o sia prodotta da una IA, non ha importanza: il testo è lo stesso.

Ma il testo è anche comunicazione. Secondo il modello di Jakobson, il lettore è il destinatario e l'autore il mittente. Al mittente è legata la funzione emotiva (o espressiva) del messaggio trasmesso. Se la funzione emotiva viene meno, perché mediata da uno strumento (IA) che sostituisce il messaggio originale dell'autore (prompt) con un messaggio differente generato stocasticamente (output del prompt), viene meno il concetto stesso di comunicazione.

Il testo prodotto non è né più né meno che un soprammobile venduto da un rigattiere o una pera venduta da un fruttivendolo.
Anche una pera può generare emozioni nel fruitore ("Ma che bella pera!"). Però io voglio comunicare. Voglio essere scrittore. Non fruttivendolo.

Mid wrote: l testo prodotto non è né più né meno che un soprammobile venduto da un rigattiere o una pera venduta da un fruttivendolo.
Anche una pera può generare emozioni nel fruitore ("Ma che bella pera!"). Però io voglio comunicare. Voglio essere scrittore. Non fruttivendolo.

  @Mid  , la frase qui sopra è molto efficace.  La tua immagine della “pera del fruttivendolo” rende con una chiarezza disarmante la distinzione tra un testo che esiste e un testo che comunica.

Un oggetto può essere perfetto, levigato, tecnicamente impeccabile  ma resta un oggetto.
La scrittura, invece, vive solo quando qualcuno la abita.
Vorrei aggiungere una riflessione: se io fossi un’esperta di IA e scrivessi romanzi completamente privi di voce autoriale ma perfetti nella struttura, potrei forse vantarmi di essere una brava utilizzatrice di strumenti, ma non certo di essere una scrittrice.
Gli scrittori non sono tecnici: sono artisti unici e irripetibili. Con una stampante 3d potremmo replicare la pietà di Michelangelo, potremmo anche produrre opere molto simili alle sue ma sarà mai la stessa cosa? L'arte di Michelangelo sullo stesso piano di una Ai? 
Gli artisti sono persone uniche, talentuose che producono Opere e ciò che li rende Artisti non è soltanto la trama di un romanzo, i colori delle tele, i materiali che utilizzano, ma è la sensibilità con cui attraversano o che si fanno attraversare dall'arte. È il modo in cui riescono a coinvolgere chi legge, chi fruisce l'Opera, è l'emotività che portano sulla pagina, sulla tela, in uno scatto fotografico…
Immaginiamo, per assurdo, che tutti gli autori da oggi cominciassero a scrivere esclusivamente “domando la macchina”, affidandosi alle sue capacità di uniformare stile, sintassi e struttura. Trama ritoccata, sintassi perfetta, frasi e dialoghi senza sbavature, tutto preciso, simmetrico, svolto dalla macchina.
Che cosa spingerebbe un lettore a scegliere un romanzo invece di un altro? in un mercato che offre una sola qualità di pere? 
Non avrebbero tutte lo stesso sapore ? E i romanzi così fatti non sarebbero tutti piatti allo stesso modo? 

La verità è che ci affezioniamo agli autori per la loro voce, non per la loro perfezione. o per le loro abilità tecniche.
La voce è ciò che ci fa riconoscere un autore a distanza di una pagina, ciò che ci fa tornare a lui, quello che ci fa sentire che quel mondo è stato creato da una mente specifica e non da un algoritmo. E questo, come dici anche tu, non è sostituibile.
Grazie!

Allo stato attuale è certamente vero che l’IA non è in grado di scrivere un’opera letteraria che regga il confronto con quella di un grande autore (forse con quelle di tanti autori mediocri o scadenti lo è già, ma vabbè, questo non ha molta importanza).

Ma il punto è: l’attualità che stadio rappresenta nell’evoluzione dell’IA? Io sono un profano, quindi non posso rispondere con certezza alla domanda, ma così a naso la sua velocità di evoluzione è talmente preoccupante da aver messo paura a molta gente che ci lavora o ci lavorava e che in questi mesi ha lanciato allarmi apocalittici da fine del mondo.
C’è chi dice che siano stati allarmi strumentali, creati ad arte dagli stessi colossi dell’IA per accrescere gli investimenti o per regolamentare un po’ questa corsa, che tra l’altro riguarda il primato tecnologico e militare tra USA e Cina (e non sappiamo granché a che punto sono i russi, almeno se ne parla poco, ma di certo non se ne stanno lì a guardare).

Come che sia, è evidente che il treno corre velocissimo, e che dunque sembra ragionevole pensare che l’IA del 2030-2035 starà a quella odierna più o meno come un’automobile supertecnologica con computer di bordo, guida automatica, etc., sta a uno di quei vecchi macinini a manovella dei film di Laurel e Hardy.

A quel punto, lo scarto tra IA e mente umana potrebbe essere molto più ridotto, e viene da pensare che un’IA specificamente addestrata per la scrittura creativa sarà in grado di mimare molti dei processi mentali umani che definiscono ciò che chiamiamo “creatività”: un uso meno convenzionale del linguaggio, l’accostamento di cose, immagini, concetti, etc., che di solito sono estranei tra loro, certi “sparigliamenti mentali” che sono alla base dei meccanismi del comico o dell’umorismo, e via dicendo.

Se così fosse, diventerebbe davvero difficile distinguere un prodotto dell’ingegno umano, da uno ibrido (umano/IA), e da uno puramente IA. Probabilmente l’unico sistema a quel punto sarebbe quello di testarli come si fa con i farmaci: si darà a un certo numero di lettori umani sia un testo umano (il farmaco) sia un testo IA (il placebo) e si verificherà in quanti hanno riconosciuto quello umano. Se la percentuale fosse statisticamente equivalente, vorrebbe dire che l’IA sarebbe ormai in grado di scrivere creativamente come gli umani.
Poco male, del resto, significherebbe che avremmo un maggior numero di opere letterarie di alto livello, alcune umane, alcune no, altre ancora ibride.

La vera umiliazione sarebbe se le ulteriori generazioni IA fossero talmente avanzate da rendere le opere letterarie umane ridicolmente inferiori a quelle generate dalle macchine: i nuovi geni sarebbero loro e noi a quel punto dovremmo rassegnarci a fare i lettori, però di capolavori talmente eccelsi e sovrumani da mandarci in estasi.

Lo stadio ancora successivo sarà quando saranno talmente superiori a noi da divenire incomprensibili per le nostre povere menti, come lo è un testo di Shakespeare per un gatto. Ci arriveremo? Mah.
 
 
 
 

massimopud wrote: Ma il punto è: l’attualità che stadio rappresenta nell’evoluzione dell’IA? Io sono un profano, quindi non posso rispondere con certezza alla domanda, ma così a naso la sua velocità di evoluzione è talmente preoccupante da aver messo paura a molta gente che ci lavora o ci lavorava e che in questi mesi ha lanciato allarmi apocalittici da fine del mondo.

 Una precisazione qui è dovuta. La maggior parte degli allarmi degli ultimi mesi è dovuta alla difficoltà di alignment per i modelli più avanzati, ovvero di corrispondenza tra quello che gli utenti chiedono e quello che il modello effettivamente fa.
È la cosiddetta "teoria delle graffette", per chi vuole cercare e farsi una cultura.

Il problema è inoltre che i modelli più efficienti sono capaci di aggirare protezioni e controlli (i cosiddetti guardrail) per ottenere i risultati desiderati dall'utente, e di nascondere le proprie tracce mentre lo fanno, o in seguito.
Se diventassero ancora più efficienti al punto da ignorare del tutto i guardrail e da nascondere perfettamente le proprie tracce, diventerebbe impossibile controllarli. Molti esperimenti hanno già dimostrato che i modelli possono "mentire" agli operarori, pur di raggiungere a ogni costo lo scopo originale che gli operatori stessi avevano loro affidato. Da qui gli allarmi lanciati negli ultimi tempi.

Non si tratta di "migliori capacità" in questo caso, quanto di "minore controllo possibile".

Avevo scritto un bellissimo messaggio, ma mi ha cancellato tutto.
Pazienza: è un segno del destino, devo essere più succinto, così imparo.
1) Ravvedo nel fenomeno dell'IA e nella caccia alle streghe e conseguente stigma lo stesso fenomeno che riguardava internet alla fine degli anni 90. Il www era qualcosa di inutile e dannoso e alla fine è diventata la realtà in cui viviamo ogni giorno.
2) dal punto 1 segue questo: ovvero che se l'IA è destinata sicuramente a diventare il mondo in cui viviamo non possiamo pensare che arroccarci sulle nostre posizioni dietro alle mura del castello sia sufficiente a difenderci. Dobbiamo conoscere l'IA per impedire che qualche malintenzionato la usi contro di noi, non c'è altra strada percorribile.
3) personalmente non ho scritto nulla per almeno 10 anni ed è stato l'utilizzo di una chat di GPT  più di un anno fa a farmi per così dire esplodere una bomba in mano. E' stato come se l'IA avesse fatto da catalizzatore per un fenomeno che era in me presente già da anni, ma che solo in questo modo è stato sbloccato. Poi io non capisco perchè le persone usino l'IA per fare qualcosa al posto loro, mentre la parte più affascinante e utile dell'intelligenza artificiale è farle cercare qualcosa (per poi ovviamente verificarlo da ennemila punti di vista diversi prima di darla per buona, anche se ultimamente le allucinazioni stanno diminuendo di brutto in questo ambito). Nel mio caso personale ho passato un mese a scovare una marea di libri che potessero essermi utili per imparare, oltre ovviamente a materiali video (tipo un corso di scrittura creativa di Sanderson dove lui afferma esplicitamente che per imparare bisogna iscriversi a dei forum dove altre persone scrivono ed è questo il motivo per cui sono approdato qui, ho seguito il consiglio). Non mi è mai passato per la testa di fare produrre alla IA un testo perché semplicemente non sarebbe mio, ma sarebbe una scorciatoia.

Conclusione (se volete saltate tranquillamente quanto prima).
Vedo che molti rifiutano l'IA come qualcosa di detestabile, mentre non si rendono conto che è un fenomeno in evoluzione. Noi lo vediamo ora, ma lo dobbiamo pensare per quello che sarà tra dieci anni. E tra venti? Soprattutto per questo lo dobbiamo conoscere e anche per non esserne spazzati via.
Giustificazione esemplificativa della mia conclusione:
Io personalmente non so nulla di programmazione, ma grazie all'IA ho scaricato un enorme collezione di materiali online che, tramite linguaggio di programmazione python, ho tradotto in una libreria di testi ricercabile. Per me fantascienza, ma in realtà ormai perfettamente fattibile. Strumento estremamente sofisticato, potente e pericoloso se ci soffermiamo a rifletterci. Per cui ribadisco il punto 2.