Expertos independientes presentaron el segundo borrador del
Código de Prácticas de IA de propósito general, basado en los comentarios recibidos sobre el
primer borrador, publicado el 14 de noviembre de 2024.
Cada borrador es un trabajo en progreso y refleja las opiniones de las partes
interesadas que participan en los grupos de trabajo del Código de prácticas y
los talleres de proveedores, que constan de alrededor de 1.000 interesados,
incluidos representantes de los Estados miembros de la UE y observadores
europeos e internacionales.
El contenido del segundo borrador se basó en las reuniones del Grupo de
trabajo que se celebraron durante la semana del 18 de noviembre de 2024. Los
participantes tuvieron la oportunidad de proporcionar comentarios verbales,
hacer preguntas a los presidentes y responder a las preguntas de los
presidentes a través de encuestas interactivas.
Se presentó en el Plenario un resumen del contenido discutido en estas
reuniones del Grupo de trabajo. Los presidentes también recibieron 354
presentaciones de comentarios por escrito sobre el primer borrador a través de
una plataforma dedicada, y consideraron los comentarios de los proveedores de
modelos de IA de propósito general presentados en talleres dedicados, donde se
tomaron actas que se compartirán con todos los participantes del plenario para
mantener la transparencia. Los presidentes y vicepresidentes también fueron
invitados a una serie de reuniones interinstitucionales:
Estado del segundo borrador
El Código es un documento de orientación para los proveedores de modelos de IA
de uso general que demuestren el cumplimiento de la Ley de IA a lo largo de
todo el ciclo de vida de los modelos.
El segundo borrador se basa en trabajos anteriores y tiene como objetivo
proporcionar un Código «a prueba de futuro»; será especialmente relevante para
los modelos que se publiquen después del 2 de agosto de 2025, cuando comiencen
a aplicarse las nuevas normas sobre modelos de IA de uso general.
La primera parte del borrador del Código detalla las obligaciones de
transparencia y derechos de autor para todos los proveedores de modelos de IA
de uso general, con notables exenciones para los proveedores de ciertos
modelos de código abierto de acuerdo con la Ley de IA. En cuanto a la
plantilla para un resumen adecuado del contenido de los datos de
entrenamiento, se puede esperar una propuesta de la Oficina de IA a principios
del próximo año. La Oficina de IA tiene como objetivo tener en cuenta los
comentarios de los participantes del Código de Prácticas antes de que la
Comisión adopte oficialmente la plantilla.
La segunda parte del Código solo es relevante para un pequeño número de
proveedores de los modelos de IA de uso general más avanzados que podrían
plantear riesgos sistémicos, de conformidad con los criterios de clasificación
del artículo 51 de la Ley de IA. En este punto, el Código describe las medidas
para la evaluación y mitigación de riesgos sistémicos, incluidas las
evaluaciones de modelos, la notificación de incidentes y las obligaciones en
materia de ciberseguridad. La estructura del Código se adaptó para describir
los objetivos, los compromisos y las medidas (reemplazando la estructura del
borrador anterior, que consistía en objetivos, medidas y submedidas), e
incluir ejemplos preliminares de indicadores clave de desempeño (KPI).
También se intentó señalar claramente las obligaciones derivadas de la Ley de
IA, que el Código pretende especificar más a través de medidas concretas que
los signatarios se comprometen a adoptar para cumplir eficazmente con estas
obligaciones.
Según el REGLAMENTO EUROPEO DE IA (UE 2024/1689) (Guía práctica [PDF]), publicado en junio de 2024, el enfoque de la UE con respecto a la
inteligencia artificial se centra en la excelencia y la confianza, con el
objetivo de impulsar la investigación y la capacidad industrial, garantizando
al mismo tiempo la seguridad y los derechos fundamentales.
-
ACCIÓN Y SUPERVISIÓN HUMANA. Se entiende que los sistemas de IA se
desarrollan y utilizan como herramienta al servicio de las personas, que
respeta la dignidad humana y la autonomía personal, y que funciona de manera
que pueda ser controlada y vigilada adecuadamente por seres humanos. -
SOLIDEZ TÉCNICA Y SEGURIDAD. Los sistemas de IA se desarrollan y utilizan de
manera que sean sólidos en caso de problemas y resilientes frente a los
intentos de alterar el uso o el funcionamiento del sistema de IA para
permitir su uso ilícito por terceros y reducir al mínimo los daños no
deseados. -
GESTIÓN DE LA PRIVACIDAD Y DE LOS DATOS. Los sistemas de IA se desarrollan y
utilizan de conformidad con normas en materia de protección de la intimidad
y de los datos, al tiempo que tratan datos que cumplen normas estrictas en
términos de calidad e integridad. -
TRANSPARENCIA. Los sistemas de IA se desarrollan y utilizan de un modo que
permita una trazabilidad y explicabilidad adecuadas, y que, al mismo tiempo,
haga que las personas sean conscientes de que se comunican o interactúan con
un sistema de IA e informe debidamente a los responsables del despliegue
acerca de las capacidades y limitaciones de dicho sistema de IA y a las
personas afectadas acerca de sus derechos. -
5. DIVERSIDAD, NO DISCRIMINACIÓN Y EQUIDAD. Los sistemas de IA se
desarrollan y utilizan de un modo que incluya a diversos agentes y promueve
la igualdad de acceso, la igualdad de género y la diversidad cultural, al
tiempo que se evitan los efectos discriminatorios y los sesgos injustos
prohibidos por el Derecho nacional o de la Unión. -
BIENESTAR SOCIAL Y AMBIENTAL. Los sistemas de IA se desarrollan y utilizan
de manera sostenible y respetuosa con el medio ambiente, así como en
beneficio de todos los seres humanos. -
RENDICIÓN DE CUENTAS. Supervisión y evaluación de los efectos a largo plazo
en las personas, la sociedad y la democracia.
Fuente:
Digital Strategy