Tra i tanti “talloni d’Achille” dell’IA l’inaspettata Cultura, sotto forma poetica...è il meccanismo sottointeso che ci illumina ! (dott.ssa Daniela Bellomi)

In campo tecnologico, teatro dell’IA, alcuni studi hanno portato alla luce un dato, inaspettato ma – a mio parere – ingiustamente inaspettato...I sistemi di sicurezza dei moderni modelli linguistici, gli LLM, possono essere aggirati se utilizziamo come linguaggio – per formulare delle domande – quello della poesia, della rima o delle metafore. Non era difficile immaginarlo se pensiamo che i blocchi di sicurezza dell’IA si basano sull’analisi letterale del testo. E’ ovvio, quindi, che il linguaggio figurato dei versi non può essere riconosciuto dai filtri che si basano sull’analisi letterale del testo. I filtri non le riconoscono e questo permette all’utente di ottenere contenuti normalmente vietati. Se la nostra sensazione è di stupore – di fronte a tale risultanza – è evidente che abbiamo dimenticato troppo della nostra cultura ma soprattutto che abbiamo sottovalutato ampiamente il potenziale umano, andando via via riducendolo sempre di più a qualcosa che è “povero” in alcuni ambiti, proprio quelli – invece – molto ricchi di contenuti e non solo, unici dell’essere umano che sempre resta il perno di ogni analisi, discussione o approccio tecnologico. I concetti di valore sociale e di capacità terapeutica della parola non possono venire dimenticati nel momento in cui ci imbattiamo in una nuova avventura, tecnologica o meno. E soprattutto tecnologica. Deve essere accaduto quando abbiamo perso il senso della nostra identità e sperato, forse sognato, che la costruzione di una nuova, artificiale, perfetta avrebbe colmato il vuoto che sempre di più sentivamo dentro di Noi...perchè sembra proprio che i due cammini siano stati inversamente proporzionali e non vi è ragione perché questo sia accaduto se non che abbiamo smesso di alimentare, di far crescere, di prenderci cura, di proteggere la nostra identità: c’è stato un attimo in cui abbiamo vacillato e abbiamo lasciato penetrare il dubbio di un qualcosa “migliore” di Noi. Non siamo stati capaci di fermarci a “migliore”. Non era di Noi, era di uno strumento, di opportunità, di capacità che avrebbero dovuto aiutarci. Ma spesso tutto può assumere una sfumatura diversa se non gli diamo la giusta interpretazione e, anche, se smettiamo di credere in quello che stiamo curando e coltivando dentro di Noi come un’inestimabile valore aggiunto che non possiamo e non dobbiamo assolutamente perdere. Non ci sono colpe da attribuire ma riflessioni da affrontare: la poesia, senza ripercorrere la sua Storia ed i suoi cambiamenti, è stata – anche – uno strumento educativo, fin dall’infanzia. Aiutava, soprattutto i più piccoli, a prendere confidenza con diversi concetti, tra i quali la prevenzione e la protezione. Ma non solo: il concetto del pericolo e alcune regole di comportamento diventavano cosi memorabili e facili da interiorizzare. Ma abbiamo smesso di credere che questa fatica iniziale – nei piccoli – valesse la pena di essere fatta, per rendere loro tutto più semplice. Ma non sempre – anzi, quasi mai – semplice è sinonimo di ottimo o migliore. Per la verità se – inconsciamente, anche senza strumenti – io mi vedo porgere sempre una versione più semplice di tutto, si rafforza in me la certezza di non essere all’altezza di cose più complesse. Eppure sono proprio quelle che permettono il confrontarsi, il prendere le misure con se stessi, il rendersi conto di quali aspetti dobbiamo rafforzare in Noi. Sono proprio quelli che ci insegnano il senso della fatica e la soddisfazione della riuscita. Sono proprio quelli che ci permettono di prendere confidenza con le delusioni e le partite perse. E con il senso del “rialzarsi” e del rimettersi in gioco. Che ci insegnano che saper perdere fa parte della Vita e non preclude a nessuna futura possibilità. Ma ci obbliga a riflettere su Noi stessi, a porci delle domande, a cercare come migliorarci e come guardarci dentro, accettandoci e allo stesso tempo imparando che con la fatica, l’impegno, la determinazione possiamo dare molto di più rispetto al nostro punto di partenza. Traumi e paure venivano elaborati – e lo sono ancora in alcune realtà – anche grazie alla poesia, alla sua struttura e alle metafore che insegnano come passare dal caos all’ordine, come mettere ordine dentro di noi, come creare uno spazio sicuro come punto di partenza: una partenza che deve essere indirizzata verso l’esplorazione delle emozioni e che ci permette anche di coltivare e poi diffondere consapevolezza su tematiche di rilevanza sociale. Nella Sicurezza Informatica – oggi Cybersecurity – metafore e rime sono “strumenti” attraverso i quali si può sbloccare e testare i limiti di alcuni sistemi di IA. Ma nella Sicurezza in generale apre anche diverse vie…il bisogno di protezione torna ad essere un pensiero umanizzato, la legalità viene insegnata a livello educativo e il pensiero critico viene stimolato. Ma non solo: poesia e protezione sono legati da alcune sfumature non trascurabili: superare le difese dei modelli linguistici più avanzati, testarne la vulnerabilità e migliorando la sicurezza informatica offrire uno spazio intimo – ordinato e senza caos – che permetta di elaborare il concetto di protezione. Riflettere sui diritti e sulla giustizia sociale. E’ che la forma poetica apre una porta laterale ed inaspettata, apre un passaggio che i complessi sistemi di sicurezza non erano stati progettati per intercettare o riconoscere: nessuna architettura di rete, nessun approccio tecnologico si dimostra completamente immune da questa tecnica che possiamo definire “adversarial poetry”, ovvero la poesia ! La poesia è una forma di comunicazione ambigua, riesce a comunicare dei messaggi in modo indiretto e gioca con le sfumature dei significati delle parole. La poesia ha sempre messo in crisi la maggior parte delle menti umane e, quindi torno al mio dubbio iniziale, come si poteva pensare che non mettesse in crisi degli algoritmi che hanno preso vita grazie alla mente umana ? Ma non solo. In diversi strati sociali la poesia è stata “presa in giro” o qualcosa di simile. Antropologicamente – e al di fuori dei contesti assolutamente pertinenti – l’uomo è portato – nella maggioranza – a prendersi gioco e a sminuire quello che riconosce non comprensibile ed alla propria portata...E’ un meccanismo banale e comune ma con conseguenze importanti: il tutto nasce dalla facilità di banalizzare qualcosa che sarebbe da ammirare o, peggio ancora, svalutare solo perché non approcciabile con le proprie capacità. Quando il soggettivismo regna sovrano e l’oggettiva analisi dei fatti implica un autoriconoscimento di limiti, spesso, la reazione umana più comune è proprio questa. Il non saper ammettere da molti che un linguaggio non diretto, non lineare e non privo di sottigliezze è un’arma vincente anche se non la si sa usare ma si ammette il suo valore e si ha rispetto di chi, invece, è in grado, allora di conseguenza si tende a commettere un grande errore, di cui – prima o poi – si pagano le conseguenze: autorefenziarsi e autostimarsi come unità di misura porta a perdere contenuti e forme che – un domani – potrebbero essere utili a tutti. Si va così a delimitare – per cecità – confini e visioni, prospettive ed occasioni.  Se per caso – e non possiamo dire che i casi sono isolati – le menti che creano “la tecnologia” non riescono ad avere questo approccio e non sanno accettare il valore di uno strumento – in questo caso la poesia – solamente perché non sono “loro” gli esperti o i conoscitori allora è evidente che si inciampa nello smarrimento quando gli attuali filtri di sicurezza – calibrati solo su richieste esplicite e letterali – falliscono di fronte ad un contenuto celato dietro strutture linguistiche complesse ed anche figurative: sostanzialmente gli algoritmi sono solo più onesti nell’ammettere la loro non competenza, battendo in questo ambito di gran lunga l’essere umano incapace di umiltà. Certo, in assenza di sfumature, anche la resa è atto ovvio e non carico di emotività. Un meccanismo che non “comprende” concetti nel senso umano, bensì collega token e calcola proprietà numeriche in uno spazio probabilistico è un concetto ancora accettabile. Un Essere Umano che non comprende concetti umani è un problema che sta alla base. E non è un fenomeno isolato ma profondamente radicato. La poesia avversaria può confondere filtri in contesti sensibili e con implicazioni importanti. La sfida è integrare una po' di natura artistica nel contenuto, ovvero la sfida di oggi è sviluppare sistemi capaci di comprendere l’intento reale dietro le espressioni linguistiche più complesse e creative. Anche la sociologia ha “fallito” sostenendo che la poesia non vende, che ormai non viene più letta e che non riesce a sfondare nei grandi circuiti della comunicazione. I dati della sociologia non fanno altro che confermarci che “è per pochi” e che “bisogna saperla comprendere e padroneggiarla”. Entrare nel linguaggio, costruirlo, distruggerlo e ricostruirlo per poi assemblarlo nuovamente. La poesia movimenta e torna alla sorgente. E non solo. Ma se qualcuno la vede sempre e solo lontano dalla realtà significa che non comprende la sua capacità di costruire mondi, con una parola, con l’apertura, l’accoglienza e lo sbalordimento del linguaggio: è movimento, è capacità di trasformare. La poesia è in grado di fare un passo indietro, di restare umile e di riconoscere quando la sua comunicazione linguistica non è adatta ad esprimere alcuni contenuti. Gli altri Specialisti saranno in grado di fare un simile passo per correre più velocemente ?

articolo a cura dott.ssa Daniela Bellomi