{"id":5818,"date":"2025-11-21T13:37:06","date_gmt":"2025-11-21T13:37:06","guid":{"rendered":"https:\/\/assecoplatform.com\/2025\/11\/21\/lia-non-puo-rimanere-una-scatola-nera-e-ora-di-capire-perche-prende-ogni-decisione\/"},"modified":"2026-01-15T08:56:37","modified_gmt":"2026-01-15T08:56:37","slug":"lia-non-puo-rimanere-una-scatola-nera-e-ora-di-capire-perche-prende-ogni-decisione","status":"publish","type":"post","link":"https:\/\/assecoplatform.com\/it\/2025\/11\/21\/lia-non-puo-rimanere-una-scatola-nera-e-ora-di-capire-perche-prende-ogni-decisione\/","title":{"rendered":"L’IA non pu\u00f2 rimanere una scatola nera: \u00e8 ora di capire perch\u00e9 prende ogni decisione."},"content":{"rendered":"\n
\n
\n
\n

Questa idea \u00e8 diventata il tema centrale della Winter School on Causality and Explainable AI presso la Sorbonne Universit\u00e9, una settimana che ha riunito i migliori ricercatori di DeepMind, UCL, TUM, Charit\u00e9 e Inria.<\/p>\n\n\n\n

Il mese scorso, ho avuto il privilegio di partecipare alla Winter School on Causality and Explainable AI<\/strong>, ospitata presso la Sorbonne Universit\u00e9<\/strong>. \u00c8 stata una settimana stimolante che ha riunito alcuni dei principali ricercatori mondiali nei settori della causalit\u00e0, della spiegabilit\u00e0 e dell’IA responsabile, tra cui professori di UCL, TUM, Charit\u00e9 Berlin, Inria e DeepMind<\/strong>. <\/p>\n\n\n\n

E onestamente? \u00c8 stato fantastico<\/strong>.Non solo per la profondit\u00e0 delle lezioni, ma anche per le persone. Nonostante l’incredibile livello di competenza nella stanza, non c’era alcun senso di gerarchia: professori, dottorandi e ricercatori del settore si sono scambiati idee su un piano di parit\u00e0. Dopo aver terminato le proprie lezioni, scienziati di fama mondiale si sono seduti tra il pubblico, hanno preso appunti e hanno posto domande come tutti gli altri.Aggiungete a ci\u00f2 l’atmosfera accogliente, la grande energia del campus e (s\u00ec!) il cibo fantastico, ed \u00e8 diventata una settimana da ricordare. <\/p>\n<\/div>\n\n\n\n

\n
\"\"<\/figure>\n<\/div>\n<\/div>\n\n\n\n
<\/div>\n\n\n\n
\n
<\/div>\n\n\n\n
Cosa mi sono portato via per il nostro lavoro in Asseco Platform<\/h6>\n\n\n\n

In Asseco Platform, formiamo e implementiamo modelli di visione<\/strong> che supportano i clienti nei settori FMCG e farmaceutico con soluzioni avanzate di riconoscimento delle immagini<\/strong> che garantiscono che i prodotti siano disponibili, visualizzati correttamente e promossi efficacemente<\/strong> nel punto vendita.Ci\u00f2 che ho imparato alla Winter School influenzer\u00e0 direttamente il modo in cui spieghiamo<\/strong>, formiamo<\/strong> e miglioriamo<\/strong> questi modelli.<\/p>\n\n\n\n

Un messaggio chiave \u00e8 risuonato in molte lezioni:<\/strong><\/p>\n\n\n\n

\n
<\/div>\n\n\n\n
\u201cNon possiamo pi\u00f9 trattare l’IA come una scatola nera: dobbiamo capire perch\u00e9<\/em> prende ogni decisione.\u201d<\/strong><\/h5>\n<\/div>\n\n\n\n
<\/div>\n<\/div>\n<\/div>\n\n
\n
<\/div>\n\n\n\n

Questo principio si allinea perfettamente con la nostra attuale direzione di R&S. Nei prossimi mesi, inizieremo ad adattare le tecniche di spiegabilit\u00e0<\/strong> discusse durante la scuola, ad esempio, i modelli spiegabili basati su concetti (CBM)<\/strong> e il ricorso consapevole della struttura<\/strong>, per rendere i nostri sistemi di riconoscimento visivo pi\u00f9 trasparenti<\/strong> e interpretabili<\/strong>. <\/p>\n\n\n\n

Questo significa due cose:<\/p>\n\n\n\n