A International Standards Organization (ISO) está atualizando seus requisitos de segurança de 12 anos para robôs de cuidados pessoais. Muita coisa aconteceu desde a última revisão, tanto no lado tecnológico quanto na compreensão dos pesquisadores sobre a segurança dos humanos que colaboram com robôs domésticos. A atualização ISO proposta aborda a identificação de perigos, avaliação de riscos e diferentes cenários de uso. No entanto, não estabelece limites, não propõe métodos de teste ou possui mecanismos de aplicação que possam abordar as complexidades da colaboração homem-robô. E isso é um problema, argumenta o pesquisador de política tecnológica Jae-Seong Lee, do Instituto de Pesquisa em Eletrônica e Telecomunicações em Daejoeon, na Coreia do Sul.
Espectro IEEE: Por que a próxima revisão da ISO 13482 é tão importante?
Jae-Seong Lee: O padrão está chegando à aprovação final no momento em que os fabricantes de robôs humanóides domésticos estão mudando de protótipos de laboratório para produtos voltados para casas reais, cuidadores reais e famílias reais. Isso é importante porque a norma faz mais do que especificar geometria e limites de impacto: ela ajuda a definir o que é considerado um comportamento aceitável do robô no mundo confuso da vida cotidiana.
Qual é o principal problema de engenharia?
Lee: A questão não é simplesmente saber se um robô pode evitar colisões ou detectar pessoas em seu caminho. O problema mais difícil é que a interação humano-robô é bidirecional. O robô muda o que o humano faz, e o humano muda o que o robô percebe e faz a seguir. Por outras palavras, a segurança não é uma propriedade fixa apenas da máquina; emerge do relacionamento.
Isso já não está coberto pelos padrões de segurança atuais?
Lee: Apenas parcialmente. A ISO 13482 aborda robôs de cuidados pessoais por meio de identificação de perigos, avaliação de riscos e cenários de uso pretendido, e as orientações relacionadas reconhecem perigos sem contato, como imprevisibilidade e decisões autônomas incorretas. Mas não chega a vincular critérios de conformidade, métodos de teste ou mecanismos de aplicação para os perigos produzidos pela relação homem-robô.
A comunidade técnica entende o acoplamento bidirecional e a estrutura de padrões reconhece perigos relevantes, mas nenhum padrão atual converte totalmente esse conhecimento em regras aplicáveis para a autonomia doméstica.—Jae-Seong Lee
Por que os engenheiros não conseguem definir melhor o envelope operacional de um robô?
Lee: Porque a proposta de valor de um humanóide doméstico depende de operar em ambientes não controlados. Um robô que só é seguro em salas padronizadas, com adultos saudáveis, sob condições bem definidas, não é de forma alguma um humanóide doméstico.
Na robótica industrial, os designers geralmente conseguem vincular a tarefa, o espaço de trabalho e a população. Numa casa, o robô deve adaptar-se a residentes idosos, crianças, visitantes, animais de estimação, desordem, espaços apertados e comportamento humano flutuante. Esses não são casos extremos. Essas são a linha de base. Restringir o domínio para ser mais parecido com o dos robôs de fábrica tornaria os robôs domésticos menos úteis.
A proposta menciona dados de treinamento. Por que isso importa?
Lee: Porque os dados já refletem a diversidade da vida doméstica. As empresas que constroem conjuntos de dados de treinamento humanóide estão supostamente enviando trabalhadores contratados ao redor do mundo para registrar suas tarefas em ambientes comuns. Isso significa que os robôs serão treinados na variabilidade do mundo real, e não em demonstrações higienizadas. O problema de segurança está, portanto, na composição de todo o sistema humano-robô, e não em qualquer componente.
Qual é a lacuna de padrões?
Lee: A lacuna é a governança. A comunidade técnica compreende o acoplamento bidireccional e o quadro de normas reconhece perigos relevantes, mas nenhuma norma actual converte totalmente esse conhecimento em regras aplicáveis para a autonomia nacional. O que falta é uma maneira de especificar o comportamento seguro em toda a gama de condições humanas que o robô realmente encontrará.
O que também falta é uma decisão sobre quem decide qual comportamento é considerado normal. De quem é a marcha que define a linha de base? Qual é o limite de risco aceitável? Qual definição de julgamento seguro é escrita na linguagem de requisitos? Esses são julgamentos de valor, não puramente de engenharia. Um comitê de padrões não pode evitar a escolha de um ponto de referência normativo; só pode decidir se essa escolha é explícita e inclusiva.
Quem poderia ajudar a responder a essas perguntas?
Lee: A proposta argumenta que as pessoas mais afetadas por humanóides domésticos não estão sistematicamente representadas nos grupos de trabalho que moldam o padrão. Aponta especialmente para os adultos mais velhos, que são muitas vezes os principais utilizadores de robôs de cuidados domésticos, mas cujos padrões de movimento e estados cognitivos não estão diretamente incorporados no processo de normalização.
Por outras palavras, esta revisão reconhece os problemas mais difíceis, mas empurra as questões não resolvidas para uma linguagem consultiva, orientação não vinculativa ou âmbitos de revisão futura. Isto pode ser útil, mas também atrasa a verdadeira questão: o que conta como comportamento relacional seguro em casa?
Quais são as apostas?
Lee: O risco não é apenas lesão, embora essa seja a preocupação óbvia. O risco mais profundo é que os pressupostos de segurança sejam incorporados em produtos e normas antes que o mercado, os reguladores e os utilizadores tenham a oportunidade de os questionar. Depois que os padrões de implantação se consolidam, fica muito mais difícil revisar a linha de base.
O que os engenheiros dos órgãos de padronização deveriam fazer a respeito?
Lee: Os engenheiros do órgão de padronização deveriam perguntar não apenas: “Quais são os resultados do robô e eles permanecem dentro de limites seguros?” mas “Com quais estados este robô se envolve e esse envolvimento permanece seguro em toda a gama desses estados?” Essa mudança parece sutil, mas muda o resumo do design. Ele move a segurança da medição centrada na máquina para a garantia relacional no nível do sistema.
A segurança humanóide doméstica não pode ser resolvida apenas pela engenharia de máquinas. Requer uma estrutura que trate o ser humano não como ruído de fundo, mas como parte do sistema, parte da definição do envelope de segurança.
Dos artigos do seu site
Artigos relacionados na web
