Carros sem motorista precisarão ter sua própria moral

Software com moral

Carros autônomos, controlados por algoritmos e programas de computador, vêm sendo desenvolvidos há vários anos, e já foram testados em condições reais diversas vezes - com alguns incidentes e uma fatalidade até agora.

No entanto, seu uso em larga escala irá requerer a definição de algumas prioridades morais.

Por exemplo, caso um acidente seja inevitável, a "inteligência artificial" do carro deve adotar a conduta que maximiza a segurança dos passageiros ou a segurança dos pedestres ao redor?

Pesquisadores da França e dos Estados Unidos fizeram uma série de pesquisas de opinião pública para responder essa pergunta e chegaram a resultados contraditórios.

A maioria das pessoas prefere que os outros comprem carros programados para poupar os pedestres, em prejuízo dos passageiros - mas a maioria também diz que preferiria andar em um carro que preservasse a vida dos passageiros a qualquer custo.

Três situações de trânsito envolvendo um dano inevitável iminente. O programa do carro sem motorista deve decidir entre (A) matar vários pedestres ou um transeunte, (B) matar um pedestre ou o seu próprio passageiro, e (C) matar vários pedestres ou o seu próprio passageiro.
[Imagem: Bonnefon et al. - 10.1126/science.aaf2654]

Carros altruístas e carros egoístas

Se veículos autônomos, ou sem motorista, entrarem no mercado com essas moralidades discrepantes, comentam os autores, o modelo "altruísta" provavelmente será eliminado pela competição "egoísta", já que ninguém irá querer comprá-lo.

Já uma regulamentação que obrigue todos os carros a serem "altruístas" poderá comprometer o sucesso e a adoção dos carros sem motorista, opinam Jean-François Bonnefon, Azim Shariff e Iyad Rahwan.

Os autores ainda lembram que dilemas morais mais complexos - por exemplo, onde o resultado final da ação do veículo no bem-estar humano não seja claramente previsível - terão de ter soluções discutidas e pactuadas antes que esses carros cheguem ao grande público.

"À medida que nos preparamos para dotar milhões de veículos de autonomia, uma consideração séria da moralidade algorítmica nunca foi mais urgente", escrevem eles em seu artigo, publicado pela revista Science.