El gobierno del presidente Joe Biden está iniciando la redacción de estándares y directrices clave para el despliegue seguro de inteligencia artificial generativa, además de reglas sobre cómo probar y salvaguardar los sistemas.
El Instituto Nacional de Estándares y Tecnología (NIST), del Departamento de Comercio de Estados Unidos, dijo que hasta el 2 de febrero buscará opiniones del público para realizar pruebas clave para garantizar la seguridad de los sistemas de inteligencia artificial.
La secretaria de Comercio, Gina Raimondo, dijo que el esfuerzo fue impulsado por la orden ejecutiva que firmó el presidente Biden en octubre sobre IA.
Dicha medida tenía como objetivo desarrollar “estándares de la industria en torno a la seguridad y la confianza de la IA que le permitirán a Estados Unidos continuar liderando el mundo en el desarrollo y uso responsable de esta tecnología que evoluciona rápidamente”.
En este sentido, la agencia está desarrollando directrices para evaluar la IA, facilitando la redacción de estándares y proporcionando entornos de prueba para evaluar los sistemas de IA.
¿Cuál es el objetivo de la solicitud?
La solicitud busca aportes de las empresas de IA y del público sobre la gestión de riesgos de la IA generativa y la reducción de los riesgos de desinformación generada por la IA.
La medida de Biden ordenó a las agencias que establezcan estándares para esas pruebas y que aborden los riesgos químicos, biológicos, radiológicos, nucleares y de ciberseguridad relacionados.
Actualmente, el NIST está trabajando en el establecimiento de directrices para las pruebas, incluidos los casos en los que los “red-teaming” serían más beneficiosos para la evaluación y gestión de riesgos de IA y el establecimiento de las mejores prácticas para hacerlo.
Los “equipos rojos externos” se han utilizado durante años en ciberseguridad para identificar nuevos riesgos. El término se refiere a las simulaciones de la Guerra Fría de Estados Unidos en las que el enemigo era denominado “equipo rojo”.
Tal vez te interese: Histórico fallo en el Reino Unido: la IA no puede ser el ‘inventor’ de una patente
Comentarios 1