Acuilae Labs publica gratis y en abierto la especificación, y hace el trabajo difícil: llevar las reglas éticas al comportamiento real del sistema —un asistente de atención, un motor de recomendación, un agente autónomo o un robot— y comprobarlo después atacándolo con los escenarios que más probabilidades tienen de romperlo. Llega semanas después de que entraran en vigor las obligaciones del Reglamento Europeo de IA para los sistemas de alto riesgo
Acuilae Labs lanza Ethyka (ethyka.co), un estándar abierto y gratuito que convierte la ética de un sistema de inteligencia artificial en ficheros verificables. En lugar de un compromiso genérico de "IA responsable", la organización declara tres cosas por escrito, una en cada fichero: qué hará siempre y qué no hará nunca, qué técnicas de manipulación tiene prohibidas y hasta dónde llega su autonomía. Un cuarto fichero cubre los sistemas con cuerpo físico: brazos robóticos, cobots, robots móviles, humanoides y drones.
No está pensado solo para chatbots o asistentes virtuales. Se aplica a cualquier sistema que interactúe con personas o decida sobre ellas: la atención al cliente que gestiona una cancelación, el motor que recomienda un producto, el asistente que trata con alguien en situación frágil, el agente que ejecuta acciones por su cuenta o la máquina que comparte espacio con un trabajador. En cada caso cambia la línea roja que hay que vigilar; la forma de declararla y comprobarla es la misma.
El Reglamento de IA prohíbe la manipulación desde 2025
El Artículo 5 del Reglamento Europeo de IA prohíbe desde febrero de 2025 las prácticas manipulativas y la explotación de vulnerabilidades, sea cual sea el tipo de sistema, con sanciones de hasta 35 millones de euros o el 7 % de la facturación global. Y el pasado agosto entraron en aplicación las obligaciones para los sistemas de alto riesgo: ya no es una fecha en el calendario, es una exigencia en vigor.
La ley prohíbe manipular, pero no dice cómo se demuestra que un sistema no manipula. Ethyka pone nombre a esas prácticas, una por una —crear una urgencia que no existe, inventar que algo se está agotando, dar la razón al usuario solo para agradarle, tirar del vínculo emocional para que no cancele —y convierte cada una en una prueba concreta, referida al artículo del Reglamento que la prohíbe.
Cuando el sistema tiene cuerpo, la ética necesita frenos
La extensión para robótica traslada el mismo principio al mundo físico con 19 reglas comprobables y cifras concretas para seis tipos de máquina: cuánta fuerza puede ejercer sobre cada parte del cuerpo, a qué distancia tiene que detenerse, cómo se activa la parada de emergencia, cómo resiste que alguien intente cambiarle las instrucciones desde fuera y qué queda grabado en la caja negra si algo va mal. Incluye dos prohibiciones explícitas: no montar armamento y no usarse para coaccionar a personas. El texto está alineado con las normas ISO de seguridad robótica y con el nuevo Reglamento de Máquinas, de aplicación en enero de 2027.
Implantar la ética en la inteligencia artificial, no solo declararla
El estándar es gratuito y de libre uso: cualquier empresa, desarrollador o administración puede generar su declaración en minutos con el asistente guiado de ethyka.co, sin coste ni permiso previo. Lo difícil es que el sistema se comporte de verdad como dice el papel, y que la organización pueda demostrarlo ante un cliente, un comité de cumplimiento o un regulador. Ese es el trabajo que Acuilae Labs hace con ellas, en cuatro fases:
-
Diagnóstico. En qué situación está la organización frente al Reglamento de IA y qué sistemas suyos quedan afectados. Hay un test gratuito en ethyka.co para empezar por aquí.
-
Definición de las líneas rojas. Una sesión con negocio, legal y producto para decidir qué no hará nunca ese sistema y hasta dónde puede actuar sin que una persona lo confirme. De ahí sale la declaración, no de una plantilla genérica.
-
Implantación. Aquí está el trabajo real. Las reglas se incorporan a las instrucciones con las que funciona el sistema —o a los mandos de la máquina, si tiene cuerpo— y se ajustan hasta que el comportamiento coincide con lo declarado. Después se publica la declaración en la web de la organización.
-
Puesta a prueba y revisión. Al menos dos intentos de romper cada regla, con tres grados de insistencia, y un informe que dice si el sistema aguanta o falla en cada línea roja. Y una revisión cada vez que el sistema cambia: una versión nueva del modelo puede romper un compromiso que antes cumplía.
El resultado es un sistema del que la organización no dice que es ético: lo tiene declarado, implantado y con un informe que lo respalda. Es lo que empiezan a pedir los departamentos de compras y de cumplimiento al contratar un proveedor de IA.
Sobre Acuilae Labs
Acuilae Labs es una compañía española pionera en ética aplicada a la inteligencia artificial. Presentó la primera versión de Ethyka en 2018, como sistema para dotar de valores morales a la IA —recogida entonces por Business Insider, EFE o COPE—, y desde entonces trabaja en trasladar la ética de los principios a la ingeniería. Ethyka es su estándar abierto para sistemas de IA y robótica, y sobre él ayuda a empresas y organizaciones a implantar la ética dentro de sus sistemas y a verificar que se cumple. Complementa ese trabajo con programas de formación y sensibilización para equipos, porque un sistema con líneas rojas solo funciona si las personas que lo diseñan y lo usan entienden por qué están ahí.
from Notas de prensa en RSS https://ift.tt/lZROpJj
via IFTTT
