Dì à u vostru gattino ciò chì pensate in l'internu - l'effettu di scatula negra
Cuntenuti
U fattu chì l'algoritmi avanzati di l'AI sò cum'è una scatula nera (1) chì scaccià un risultatu senza revelà cumu hè ghjuntu preoccupa alcuni è disturba l'altri.
In 2015, una squadra di ricerca in l'Hospital Mount Sinai in New York hè stata dumandata à utilizà stu metudu per analizà una basa di dati larga di pazienti lucali (2). Questa vasta cullizzioni cuntene un oceanu di infurmazioni per i pazienti, risultati di teste, prescrizioni, è più.
I scientisti chjamanu u prugramma analiticu sviluppatu in u cursu di u travagliu. Hè furmatu nantu à e dati da circa 700 XNUMX persone. umanu, è quandu hè pruvatu in novi registri, hè dimustratu per esse estremamente efficace in predichendu a malatia. Senza l'aiutu di l'esperti umani, hà scupertu mudelli in i registri di l'uspidale chì indicanu quale paziente hè in a strada di una malatia, cum'è u cancru di fegatu. Sicondu i sperti, l'efficienza prognostica è diagnostica di u sistema era assai più altu ch'è quellu di qualsiasi altri metudi cunnisciuti.
2. Sistema di intelligenza artificiale medica basatu nantu à basa di dati di i pazienti
À u listessu tempu, i circadori anu nutatu chì travaglia in una manera misteriosa. Hè risultatu, per esempiu, chì hè ideale per ricunniscenza di i disordini mentalicum'è l'esquizofrenia, chì hè assai difficiule per i medichi. Questu era sorprendente, soprattuttu chì nimu ùn avia idea di cumu u sistema AI puderia vede a malatia mentale cusì bè basatu solu nantu à i registri medichi di u paziente. Iè, i spezialisti eranu assai cuntenti cù l'aiutu di un diagnosticu di macchina cusì efficiente, ma sarianu assai più soddisfatti se capiscenu cumu l'AI vene à e so cunclusioni.
Strati di neuroni artificiali
Da u principiu, vale à dì da u mumentu chì u cuncettu di intelligenza artificiale hè statu cunnisciutu, ci era dui punti di vista nantu à l'IA. U primu suggerì chì saria più ragiunate di custruisce machini chì ragiunate in cunfurmità cù i principii cunnisciuti è a logica umana, rendendu u so travagliu internu trasparente à tutti. Altri credevanu chì l'intelligenza emergeria più facilmente se e macchine amparanu per l'osservazione è l'esperimentazione ripetuta.
L'ultime significa inversione di u prugramma tipicu di l'informatica. Invece di u prugrammatore scrive cumandamenti per risolve un prublema, u prugramma genera propriu algoritmu basatu nantu à dati di mostra è u risultatu desideratu. I metudi di apprendimentu automaticu chì più tardi si sò evoluti in i sistemi AI più putenti cunnisciuti oghje sò appena andati in a strada di, in fattu, a macchina stessa programma.
Stu approcciu ferma à i margini di a ricerca di sistemi AI in l'anni 60 è 70. Solu à l'iniziu di u decenniu precedente, dopu à qualchi cambiamenti pionieri è miglioramenti, Reti neurali "deep". accuminciau a dimustrà una migliione radicali in e capacità di percepzione automatizata.
L'apprendimentu automaticu prufondu hà dotatu l'urdinatori di capacità straordinarie, cum'è a capacità di ricunnosce e parolle parlate quasi cum'è precisamente cum'è un umanu. Questa hè una cumpetenza troppu cumplessa per programà in anticipu. A macchina deve esse capaci di creà u so propiu "programma" da furmazione nantu à enormi datasets.
L'apprendimentu prufondu hà ancu cambiatu u ricunniscenza di l'imaghjini di l'urdinatore è hà assai migliurà a qualità di a traduzzione automatica. Oghje, hè adupratu per piglià ogni tipu di decisioni chjave in medicina, finanza, fabricazione, è più.
Tuttavia, cù tuttu questu Ùn pudete micca solu guardà in una rete neurale profonda per vede cumu funziona "dentro". I prucessi di ragiunamentu di a rete sò incrustati in u cumpurtamentu di millaie di neuroni simulati, urganizati in decine o ancu centinaie di strati intricamente interconnessi..
Ciascuna di i neuroni in a prima capa riceve un input, cum'è l'intensità di un pixel in una maghjina, è poi eseguisce calculi prima di pruduce l'output. Sò trasmessi in una reta cumplessa à i neuroni di a capa successiva - è cusì, finu à u signale finali di output. Inoltre, ci hè un prucessu cunnisciutu cum'è aghjustà i calculi realizati da i neuroni individuali per chì a reta di furmazione pruduce u risultatu desideratu.
In un esempiu spessu citatu in relazione à a ricunniscenza di l'imaghjini di i cani, i livelli più bassi di AI analizanu caratteristiche simplici cum'è a forma o u culore. I più alti trattanu di prublemi più cumplessi cum'è fur o ochji. Solu a capa suprana porta tuttu inseme, identificendu u settore sanu di informazioni cum'è un cane.
U listessu approcciu pò esse appiicata à altri tipi di input chì u putere di a macchina per amparà stessu: soni chì custituiscenu e parolle in u discorsu, lettere è parolle chì custituiscenu frasi in testu scrittu, o un volante, per esempiu. i movimenti necessarii per guidà un veiculu.
A vittura ùn salta nunda.
Un tentativu hè fattu per spiegà ciò chì succede esattamente in tali sistemi. In u 2015, i circadori di Google anu mudificatu un algoritmu di ricunniscenza di l'imaghjini di l'apprendimentu prufondu per chì invece di vede l'uggetti in e foto, li hà generatu o mudificatu. Eseguendu l'algoritmu à l'inversu, vulianu scopre e caratteristiche chì u prugramma usa per ricunnosce, per dì, un acellu o un edifiziu.
Questi esperimenti, cunnisciuti publicamente cum'è u tìtulu, pruducianu raffigurazioni maravigghiusu di (3) animali grotteschi, strani, paisaghji è caratteri. Revelendu alcuni di i sicreti di a percepzione di a machina, cum'è u fattu chì certi mudelli sò tornati è ripetuti ripetutamente, anu ancu dimustratu quantu l'apprendimentu di a machina prufonda difiere da a percepzione umana - per esempiu, in u sensu chì si espansione è duplicate artefatti chì ignoramu. in u nostru prucessu di percepzioni senza pensà. .
3. Image creatu in u prugettu
In modu, da l 'altra banda, sti spirimenti hannu unraveled u misteru di u nostru propriu miccanismi cugnitivi. Forsi hè in a nostra percepzione chì ci sò parechji cumpunenti incomprensibile chì ci facenu immediatamente capisce è ignurà qualcosa, mentre chì a macchina ripete cù pacienza e so iterazioni nantu à l'uggetti "impurtanti".
Altri testi è studii sò stati fatti in un tentativu di "capisce" a macchina. Jason Yosinski hà criatu un strumentu chì agisce cum'è una sonda appiccicata in u cervellu, indirizzendu ogni neurona artificiale è cercandu l'imaghjini chì l'attivanu più forte. In l'ultimu esperimentu, l'imaghjini astratti apparsu com'è u risultatu di "peeping" a rete in rossu, chì hà fattu i prucessi chì anu fattu in u sistema ancu più misteriosu.
Tuttavia, per parechji scientisti, un tali studiu hè un malintesi, perchè, in u so parè, per capiscenu u sistema, per ricunnosce i mudelli è i miccanismi di un ordine più altu di decisione cumplessu, tutte l'interazzione computazionale in una rete neurale profonda. Hè un labirintu gigante di funzioni matematiche è variabili. À u mumentu, hè incomprensibile per noi.
L'urdinatore ùn si mette micca? Perchè?
Perchè hè impurtante capisce i miccanismi di decisione di i sistemi avanzati di intelligenza artificiale? I mudelli matematichi sò digià utilizati per determinà quali prigiuneri ponu esse liberati in parole, quale pò esse datu un prestitu, è quale pò uttene un impiegu. Quelli chì anu interessatu volenu sapè perchè questu è micca un'altra decisione hè stata presa, quale sò i so motivi è u mecanismu.
hà ammissu in April 2017 in u MIT Technology Review. Tommy Yaakkola, un prufissore MIT chì travaglia nantu à l'applicazioni per l'apprendimentu machine. -.
Ci hè ancu una pusizione legale è pulitica chì a capacità di scrutinize è capisce u mecanismu di decisione di i sistemi AI hè un dirittu umanu fundamentale.
Dapoi u 2018, l'UE hà travagliatu nantu à dumandà à e cumpagnie di furnisce spiegazioni à i so clienti nantu à e decisioni prese da i sistemi automatizati. Risulta chì questu hè qualchì volta ùn hè micca pussibule ancu cù sistemi chì parenu relativamente simplici, cum'è l'applicazioni è i siti web chì utilizanu a scienza profonda per mostrà annunzii o ricumandendu canzoni.
L'urdinatori chì eseguinu sti servizii prughjettanu elli stessi, è facenu in modu chì ùn pudemu micca capisce... Ancu l'ingegneri chì creanu queste applicazioni ùn ponu micca spiegà cumplettamente cumu funziona.
