Quale sarà uccisu da una vittura autònuma ? Machine, salva quant'è più persone pussibule, ma soprattuttu, salvami!

Se si presenta una situazione induve u sistema autònumu di una vittura hà da fà una scelta rapida di quale sacrificà in casu d'un accident imminenti, cumu si deve reagisce? Sacrificà i passageri per salvà i pedoni ? Se necessariu, tumbà un pedestrian per risparmià, per esempiu, una famiglia di quattru chì viaghjanu in una vittura? O forse si deve sempre prutegge prima ?

Mentre più di sessanta cumpagnie anu digià ricevutu permessi di teste persunale in California solu, hè difficiule di dì chì l'industria hè pronta per affruntà dilemmi etichi. À u mumentu, hè in lotta cù prublemi più basi - l'operazione è l'efficienza di navigazione di i sistemi è solu evitendu scontri è avvenimenti imprevisti. In situazioni cum'è l'assassiniu recenti di un pedestrian in Arizona, o scontri successivi (1), finu à quì hè statu solu nantu à i fallimenti di u sistema, è micca di qualchì tipu di "scelta etica" di a vittura.

Salvà i ricchi è i ghjovani

I prublemi di fà stu tipu di decisioni ùn sò micca prublemi astratti. Ogni cunduttore espertu pò certificà questu. L'annu passatu, circadori di u MIT Media Lab analizatu più di quaranta milioni di risposte da i rispondenti da u mondu sanu, chì anu cullatu in u cursu di ricerca lanciata in 2014. U sistema di sondaghju chì chjamanu "Macchina Etica", hà dimustratu chì in parechji lochi intornu u mondu, dumande simili sò dumandate diverse risposte.

I cunclusioni più generale sò prevedibili. In situazioni estremi a ghjente preferisce salvà a ghjente à a cura di l'animali, cù u scopu di salvà quant'è più vite pussibule, è tendenu à esse più ghjovani cà l'anziani (2). Ci hè ancu alcune, ma menu evidenti, preferenze quandu si tratta di salvà e donne nantu à l'omi, e persone di statutu più altu nantu à i più poveri, è i pedoni nantu à i passageri di vittura..

2. Quale deve salvà a vittura ?

Siccomu quasi mezzo milione di rispondenti cumpletu questionarii demografichi, era pussibule correlate e so preferenze cù età, genere è credenze religiose. I circadori cuncludi chì sti differenzi ùn anu micca "affettatu significativamente" e decisioni di e persone, ma anu nutatu alcune influenze culturali. I Francesi, per esempiu, tendenu à pisà e decisioni nantu à a basa di u numeru stimatu di morti, mentre chì in Giappone l'enfasi era u minimu. In ogni casu, in a Terra di u Soli Rising, a vita di l'anziani hè valutata assai più chè in l'Occidenti.

"Prima di permette à e nostre vitture di piglià e so decisioni etiche, avemu bisognu di avè un dibattitu globale annantu à questu. Quandu l'imprese chì travaglianu in sistemi autonomi amparanu e nostre preferenze, allora svilupperanu algoritmi etichi in macchine basate nantu à elli, è i pulitici ponu principià à introduci disposizioni legali adatte ", i scientisti anu scrittu in uttrovi 2018 in Nature.

Unu di i circadori implicati in l'esperimentu di a Macchina Morale, Jean-François Bonnefont, hà truvatu chì a preferenza per a salvezza di e persone di statutu più altu (cum'è l'executive over the homeless) hè alarmante. In u so parè, questu hè assai ligatu u livellu di inuguaglianza economica in un paese. Là où les inégalités étaient plus grandes, on préférait sacrifier les pauvres et les sans-abri.

Unu di i studii precedenti hà dimustratu, in particulare, chì, sicondu i rispondenti, una vittura autònuma deve prutege quant'è più persone pussibule, ancu s'ellu significa perde i passageri. À u listessu tempu, però, i rispondenti anu dichjaratu ch'elli ùn anu micca cumprà una vittura programata in questu modu. I circadori anu spiegatu chì mentre chì a ghjente trova più etica per salvà più persone, sò ancu interessate, chì puderia esse un signalu à i pruduttori chì i clienti seranu riluttanti à cumprà vitture equipate di sistemi altruisti.. Qualchì tempu fà, i rapprisentanti di a cumpagnia Mercedes-Benz hà dettu chì, se u so sistema salvava solu una persona, sceglienu u cunduttore, micca u pedestrian. Una onda di protesta publica hà furzatu a cumpagnia à rinunzià a so dichjarazione. Ma a ricerca mostra chjaramente chì ci era assai ipocrisia in questa santa indignazione.

Questu hè digià accadutu in certi paesi. i primi tentativi di regulazione legale in campu. A Germania hà passatu una lege chì impone e vitture senza cunduttore per evità ferite o morte à tutti i costi. A lege dice ancu chì l'algoritmi ùn ponu mai piglià decisioni basate nantu à e caratteristiche cum'è età, sessu, salute, o pedestrians.

Audi piglia a carica

U designer ùn hè micca capaci di predichendu tutte e cunsequenze di u funziunamentu di a vittura. A realità pò sempre furnisce una cumminazione di variàbili chì ùn sò mai stati pruvati prima. Questu minà a nostra fede in a pussibilità di "programmà eticamente" una macchina in tuttu. Ci pare chì in situazioni induve un errore si trova è una tragedia si trova "per culpa di a vittura", a rispunsabilità deve esse purtata da u fabricatore è u sviluppatore di u sistema.

Forsi stu ragiunamentu hè currettu, ma forse micca perchè era sbagliatu. Piuttostu, perchè un muvimentu era permessu chì ùn era micca 2019% liberu da a pussibilità di fà. Chì pare esse u mutivu, è a rispunsabilità cumuna ùn hè micca sfurzata da a cumpagnia, chì pocu annunziò chì hà da piglià a rispunsabilità per l'accidenti chì implicanu un A8 di 3 anni di età mentre usa un sistema Traffic Jam Pilot (XNUMX) automaticu in questu.

3. Audi Traffic Jam Pilot Interface

Per d 'altra banda, ci sò milioni di persone chì guidanu vitture è facenu ancu sbagli. Allora perchè i machini, chì statisticamente facenu assai menu sbagli chì l'omu, cum'è pruvucatu da numerosi sbagli, esse discriminati in questu sensu?

Se qualchissia pensa chì i dilemmi di l'etica è di a rispunsabilità in u mondu di i veiculi autònumi sò simplici, tene à pensà...