¿Qué es la ética de la IA?
La inteligencia artificial (IA) es un software que aprende patrones a partir de datos y los usa para predecir o decidir. La ética es el estudio de lo que está bien y lo que está mal. Entonces la ética de la IA pregunta: ¿es justa esta IA? ¿Es segura? ¿Respeta a las personas?
Una IA no tiene valores propios. Copia los patrones de sus datos y sigue el objetivo que le dieron sus creadores. Por eso las personas que diseñan, entrenan y usan la IA son responsables de lo que hace.
Cinco principios clave
- Justicia: tratar a todos los grupos por igual.
- Responsabilidad: una persona u organización concreta responde por el daño.
- Transparencia: la gente puede saber que se usa IA y por qué decidió así.
- Privacidad: los datos personales están protegidos.
- Seguridad: la IA funciona de forma fiable y no se puede usar mal con facilidad.
Sesgo en los datos y en los algoritmos
El sesgo significa que un sistema favorece o perjudica de forma injusta a un grupo. Puede entrar de tres maneras:
- Sesgo de datos: los datos de entrenamiento tienen muy pocos ejemplos de un grupo, o copian decisiones injustas del pasado.
- Sesgo de diseño: los creadores eligen un objetivo o una característica que perjudica a un grupo (por ejemplo, usar el código postal de la casa como señal de capacidad).
- Sesgo de uso: una herramienta hecha para un lugar se usa en otro muy distinto.
Ejemplo: una IA de contratación entrenada con diez años de contrataciones, casi todas de hombres, puede aprender a poner a las mujeres más abajo. Soluciones: reunir datos equilibrados, comprobar los resultados de cada grupo, quitar las características injustas y seguir revisando después del lanzamiento.
Privacidad y ética de los datos de la IA
La IA necesita enormes cantidades de datos, y muchos son sobre personas: fotos, voces, ubicaciones, salud e historial de compras. Buenas prácticas:
- Consentimiento: pedir permiso con claridad antes de recoger datos.
- Minimización de datos: recoger solo lo necesario.
- Límite de finalidad: usar los datos solo para el fin indicado.
- Seguridad: guardarlos con seguridad y borrarlos cuando ya no hagan falta.
Muchos países tienen ya leyes de protección de datos, como el RGPD de la UE y la ley DPDP de 2023 de la India. Los derechos de autor también son un problema: una IA entrenada con obras de artistas o escritores sin permiso plantea dudas de justicia y propiedad.
Transparencia, responsabilidad y seguridad
Algunos modelos de IA son una caja negra: ni siquiera sus creadores pueden explicar con facilidad por qué dieron una respuesta. La IA explicable muestra las razones principales de una decisión, para que la gente pueda revisarla y reclamar.
Responsabilidad significa que una persona responde. En decisiones importantes (médicas, legales, préstamos, exámenes) una persona debe revisar la sugerencia de la IA: esto se llama humano en el circuito (human in the loop).
Seguridad y mal uso: la IA puede equivocarse con mucha seguridad («alucinaciones»), puede usarse para crear deepfakes y noticias falsas, y puede ser engañada. Una IA segura se prueba, se vigila después de salir al público y tiene límites para los usos dañinos.
La IA y el cambio social
La IA ayuda en la medicina (leer escáneres), la agricultura (avisos de enfermedades de cultivos), la traducción y la accesibilidad (voz para quienes no pueden ver). También trae problemas:
- Empleos: algunas tareas rutinarias se automatizan; aparecen empleos nuevos; la gente necesita reciclarse.
- Brecha digital: quienes no tienen dispositivos, internet o conocimientos se quedan cada vez más atrás.
- Medio ambiente: entrenar modelos grandes gasta mucha electricidad y agua.
- Exceso de confianza: la gente puede dejar de pensar por sí misma.
Evaluar el impacto social de un proyecto de IA: haz una lista de quién se ve afectado, qué podría salir mal para cada grupo, cómo medir la justicia y cómo pueden quejarse las personas. Las personas y la IA funcionan mejor juntas: la IA aporta rapidez y escala; las personas aportan criterio, cuidado y valores.
Pruébalo: sé el comprobador de justicia
En el último paso 3D, pon el número de ejemplos naranjas en 2, luego en 5 y luego en 8. Anota el porcentaje de SÍ de cada grupo. ¿Qué mezcla da la brecha más pequeña? En casa: abre cualquier app de tu móvil y busca sus ajustes de privacidad. ¿Qué datos recoge? ¿Aceptarías todos?
Fórmulas y definiciones clave
- Sesgo: datos o diseño injustos dan resultados injustos
- Brecha de justicia = % de SÍ del grupo A − % de SÍ del grupo B
- Consentimiento: permiso dado con claridad antes de recoger datos
- IA explicable: IA que muestra las razones de su decisión
- Humano en el circuito: una persona revisa las decisiones de la IA
- Deepfake: un vídeo, imagen o voz falsos creados con IA
Ejemplos resueltos
1. Una IA de desbloqueo facial funciona para 99 de 100 usuarios de piel clara, pero solo para 90 de 100 usuarios de piel oscura. ¿Cuál es el problema y una solución?
Paso 1: Las tasas de error son 1% y 10%, así que el sistema es menos preciso para un grupo. Paso 2: Esto es sesgo, probablemente porque los datos de entrenamiento tenían muy pocas caras oscuras. Paso 3: Solución: añadir muchas más caras variadas a los datos de entrenamiento y medir la precisión por separado para cada grupo antes del lanzamiento.
2. Una IA de contratación dice SÍ a 60 de 100 hombres y a 30 de 100 mujeres con notas parecidas. Calcula la brecha de justicia.
Porcentaje de SÍ de los hombres = 60%. Porcentaje de SÍ de las mujeres = 30%. Brecha = 60 − 30 = 30 puntos porcentuales. Una brecha grande con notas parecidas muestra que la IA es injusta y hay que corregirla antes de usarla.
3. Un colegio quiere usar cámaras con IA para pasar lista reconociendo la cara. Escribe dos comprobaciones éticas.
1. Privacidad y consentimiento: avisar a alumnos y familias, pedir permiso, guardar los datos de las caras con seguridad y borrarlos después. 2. Justicia y responsabilidad: comprobar que funciona para todos los alumnos y dejar que un profesor corrija los errores en lugar de fiarse por completo de la IA.
Errores comunes
- Pensar que la IA es neutral porque es una máquina. Copia los patrones de sus datos, incluso los injustos.
- Creer que más datos siempre arreglan el sesgo. Más datos desequilibrados del mismo tipo mantienen el sesgo.
- Culpar a la propia IA. La responsabilidad es de las personas y empresas que la crean y la usan.
- Suponer que una respuesta segura de la IA es correcta. La IA puede equivocarse con seguridad, así que comprueba los datos importantes.