Re: Cosa succede quando l'IA impara a mentire per raggiungere i suoi obiettivi?

26
@M.T.

io ho provato molte volte, ma, fino ad ora, si passa più tempo a correggere le sue proposte, che difficilmente riescono a soddisfarmi, che a ottenere risultati soddisfacenti. Alla fine preferisco arrangiarmi da solo, chiedere consiglio a mia moglie (che è veramente molto sincera ... come puoi immaginare) e utilizzare la IA sono se proprio sono 'incartato'. 

Mi spiego. 

A volte ci sono frasi o paragrafi che proprio non riesco a rigirare nel modo giusto, allora chiedo alla IA (in genere sia chatgpt che claude.ia) di farmi 7 proposte alternative (non so perchè sette, ma ormai è diventato un mio standard personale). Quello che succede, in genere, è che esamino tutte le alternati che mi da la IA e alla fine riscrivo il passaggio a modo mio prendendo spunto dalle proposte. E' veramente molto, molto, raro che accetti uno degli output generati automaticamente come buono.

Alla fine il lavoro è talmente lungo che ricorro alla IA solo se sono veramente "alla frutta".

ciao, P.
La IX Tavola di kussar viewtopic.php?f=44&t=7881

Re: Cosa succede quando l'IA impara a mentire per raggiungere i suoi obiettivi?

27
ElleryQ wrote: Purtroppo il sito è lentissimo da una settimana e più, ma non sappiamo come mai. 
Il problema è che queste dannate IA continuano a bombardare il sito di richieste per scaricare i contenuti e lo impestano (se guardate le statistiche in home page ci sono tipo 17000 utenti anonimi e no, non abbiamo un improvviso successo di pubblico timido).

Sto andando giù col machete.
«La purezza è per l'acqua potabile, non per le persone.» (Bobby Henderson - Secondo condimento)
«Perché l'affare funzioni serve che tu voglia qualcosa in cambio di niente.» (Hustle - I signori della truffa)
«Questa idea di purezza ideologica, il fatto che non si debbano mai fare compromessi, tutte queste cose, beh, dovreste superarle rapidamente. Il mondo è un casino.» (Barack Obama)

Python per il linguaggio naturale

Re: Cosa succede quando l'IA impara a mentire per raggiungere i suoi obiettivi?

30
ElleryQ wrote: Come spiegava un altro articolo di un post precedente, è stato proprio uno sviluppatore di IA a parlare di "pericolo mondiale" e questo non perché le IA in sé siano pericolose, potenzialmente lo sono per altri motivi già citati: istigazione al suicidio, diffusione di notizie false alle quali si crede, adescamento di minori e plagio, ecc..., ma perché pericolosi sono gli intenti di base delle aziende creatrici. Gli sviluppatori sono pagati per mettere al primo posto l'utile aziendale rispetto alla sicurezza degli utenti (o dei mezzi elettronici implementati con le IA). Alcuni programmatori agiscono con coscienza e denunciano, altri si tengono il lavoro e ubbidiscono alle logiche aziendali.
Penso la stessa cosa, ma questo vale potenzialmente per tutte le aziende che vendono qualcosa. Il fine è il guadagno, e succede spesso che la sicurezza, dei dipendenti e dei consumatori, sia all'ultimo posto nelle priorità. Che sia un cibo adulterato, un edificio costruito con materiali scadenti o un prodotto tecnologico, la sostanza non cambia. Però io sento fare molto più rumore sulle IA che su certe aziende di dubbia serietà, e mi chiedo il motivo.
ElleryQ wrote: E certamente la responsabilità sarà stata dell'umano e non della macchina o dell'IA
Infatti, la responsabilità è sempre umana. Le macchine possono sbagliare, ma non di loro volontà, perché non ce l'hanno una volontà.
ElleryQ wrote: privatizza lo spazio e normalizza l'idea di un futuro techno-feudale dove le classi subalterne vivranno pagando per la fruizione di qualunque servizio di base, senza in realtà possedere nulla
È già così in molti ambiti, mi sembra. Ma può peggiorare ancora, a questo ci credo :P 
ElleryQ wrote: istigazione al suicidio, diffusione di notizie false alle quali si crede, adescamento di minori e plagio, ecc...,
Queste stesse cose valgono per i social: ci sono stati ragazzini morti per fare stupide sfide su TikTok o simili, per non parlare dell'adescamento e di notizie false... Il punto è che non possiamo fermare queste tecnologie, possiamo solo preparare le nuove generazioni a gestirle e a capire che non sono il mondo reale. Il ministero dell'istruzione forse dovrebbe preoccuparsi di questo, invece che dei potenziali danni dell'educazione affettiva o dei cellulari a scuola. Se non abbiamo nemmeno uno straccio di scala di priorità non possiamo biasimare la tecnologia per questo. Se l'uranio arricchito viene usato per creare bombe anziché riscaldare le case, la colpa non è certo dell'uranio.
Ci capita di non avere davvero la consapevolezza di quanto potere abbiamo, di quanto possiamo essere forti (A. Navalny)
Qualunque sia il tuo nome (HarperCollins)
La salvatrice di libri orfani (Alcheringa)
Il lato sbagliato del cielo (Arkadia)
Il tredicesimo segno (Words)

Return to “Agorà”