Conduz você ou conduz ele?

Os carros autónomos – robôs inteligentes cuja possibilidade de decisões autónomas têm o potencial de, mal efetuadas, causarem danos aos seres humanos – são o futuro, e segundo os desenvolvimentos da tecnologia parecem ser e vir num futuro muito próximo. Apesar dos estudos nesta área se encontrarem bastante desenvolvidos, até à presente data estes carros ainda não estão disponíveis para uso geral. Coloco a seguinte questão: como é que um carro autónomo deve tomar uma decisão entre estas duas situações: atropelar um pedestre (imaginem uma criança a atravessar a rua) ou bater e magoar algum (ou todos) dos seus passageiros?

Qualquer uma das escolhas implica um sério problema de confiança num carro autónomo. Se, por exemplo, escolher magoar os seus passageiros, alguém irá confiar num carro autónomo ao ponto de comprar um para si? Por outro lado, se ferir ou matar o pedestre para se salvar a “si” e aos passageiros, com que direito vamos confiar nestes robôs o suficiente para que conduzam nas nossas estradas públicas?

O facto é que qualquer que seja a decisão que o carro autónomo tome, ambas são más. O ideal será que se procure uma terceira alternativa para além das duas colocadas anteriormente. Possivelmente treinar várias hipóteses de ocorrências que ajudem o carro autónomo a aplicar um conhecimento ético acerca da melhor forma de resolver este tipo de problemas. Pode aprender, conforme o exemplo apresentado, a evitar esses problemas (por exemplo, quando um pedestre pode estar perto, mas escondido). Se formos nós a conduzir o carro, é intuitivo para nós que se vemos uma bola na estrada alguma criança possivelmente estará por perto e poderá inadvertidamente colocar-se em frente do nosso caminho. Vemos, por isso, a bola e simplesmente abrandamos ou até paramos. Um carro autónomo requer avanços no que diz respeito à sua perceção ou representação do conhecimento, algo que pode ser altamente falível.

Para se confiar necessita-se demostrar consistência no comportamento consoante as normas da nossa sociedade. Assim, um carro autónomo só será digno de confiança se demostrar que obedece às normas sociais, começando pelas normas de trânsito, assinalando as intenções dos pedestres e de outros condutores, ou se conseguir uma terceira escolha baseada em resultados de sucessos ou falhas que permitam, em primeiro plano, evitar uma situação de difícil escolha como a colocada inicialmente por mim neste texto.

Os progressos em machine learning e inteligência artificial dão-nos alguma segurança no uso de carros autónomos. Mais a mais, é de conhecimento de todos que a maior parte dos acidentes de viação que atualmente ocorrem são por culpa do condutor humano.

Questiono novamente: conduz você ou confia o suficiente para se deixar guiar por um carro autónomo?

Por: Ana Pinto, professora universitária e consultora em recursos humanos

Artigos Relacionados: