A Inteligência Artificial (IA) está a “transformar a segurança rodoviária”, com sistemas cada vez mais capazes de reconhecer sinais de trânsito, peões, ciclistas ou outros veículos, monitorizar parâmetros técnicos e acionar travagens automáticas ou mudanças de faixa. Mas esta revolução tecnológica traz também novos desafios.
“Não podemos ignorar os riscos associados a possíveis falhas dos sistemas de IA, que nunca podem ser completamente excluídas”, alerta Xavier Valero, diretor de Inteligência Artificial e Análise Avançada da DEKRA.
Fabricantes e distribuidores
O recém-aprovado “AI Act” europeu estabelece um enquadramento legal rigoroso para estes sistemas, classificando os assistentes de condução (ADAS) como de elevado risco. Por isso, devem ser sujeitos a processos de validação e testes exaustivos para garantir fiabilidade.
“A legislação prevê, no entanto, exceções para sistemas já avaliados em conformidade com regulamentos existentes, como a homologação de tipo de veículos. Ainda assim, as empresas têm de implementar sistemas de gestão de IA robustos, com regras e fluxos de trabalho claros, assegurando segurança, transparência e proteção de dados em toda a cadeia de desenvolvimento — desde fornecedores até fabricantes”, explica a DEKRA.
Dilemas morais
Segundo Xavier Valero, “um sistema de gestão da qualidade que cubra todo o ciclo de vida da IA é essencial para garantir rastreabilidade e conformidade total”. Para apoiar esta missão, a norma ISO/PAS 8800 oferece diretrizes específicas para a segurança da IA na indústria automóvel, complementando as normas ISO 26262 (segurança funcional) e ISO 21448 (SOTIF).
O foco está no controlo da qualidade dos dados, validação contínua e monitorização durante a operação. A DEKRA tem desempenhado um papel central neste processo, participando em debates regulatórios e promovendo formações, auditorias e certificações que asseguram o cumprimento dos mais elevados padrões.
Mas a segurança técnica é apenas uma parte do desafio. A automação levanta dilemas morais que vão muito para além da engenharia. “À medida que aumenta o grau de automatização, as causas dos acidentes deslocam-se do erro humano ao volante para o erro humano no design de software”, explica o psicólogo de trânsito da DEKRA, Thomas Wagner.
Os programadores de IA enfrentam decisões complexas, como definir o comportamento de um veículo totalmente autónomo perante um acidente inevitável e determinar quem poderá ser potencialmente atingido.
“Moral Machine”
Um estudo global, “Moral Machine”, coordenado por Edmond Awad, analisou 40 milhões de decisões de participantes de 233 países sobre cenários de acidentes. As conclusões revelaram diferenças culturais marcantes.
“As sociedades ocidentais tendem a privilegiar a vida dos mais jovens e das pessoas com estatuto mais elevado, enquanto as orientais dão menos peso a essas distinções. Em todos os grupos, porém, manteve-se a preferência por proteger peões e utilizadores que respeitam as regras”.
Como sublinha Xavier Wagner, “estes resultados demonstram a complexidade ética que acompanha o desenvolvimento da condução autónoma. Só um consenso internacional alargado poderá garantir a aceitação social desta tecnologia”, defende o responsável.
Mais sobre a DEKRA aqui.
