Ética e Inteligencia Artificial: Un Desafío Necesario en la Gobernanza
Actualizado: 21 ago
Era junio del 2024. Después de un receso para tomar almuerzo, iniciaba una masterclass sobre ética e inteligencia artificial con el profesor Mathias Risse. Él nos proporcionó unos papers para su lectura previa a la clase. En ellos, destacaba para mí una premisa contundente:
La tecnología y la democracia no son aliados naturales.
Clase con el profesor Mathias Risse
Preguntas Fundamentales sobre IA
Risse definía tres preguntas centrales que deben plantearse tanto los desarrolladores como la ciudadanía ante el diseño ético de cualquier sistema de IA:
¿Para quién no funciona esto?
¿Cómo cambiará la forma en que hacemos las cosas y queremos ese cambio?
¿Cómo afecta esto al medio ambiente?
La primera pregunta, desde un campo de acción en derechos humanos, me hizo reflexionar sobre los supuestos de grupos históricamente vulnerados. Pensé en casos como el del sistema COMPAS, un ejemplo aprendido en otra masterclass. Este sistema funcionaba en el sistema judicial de Estados Unidos y generaba estereotipos raciales derivados de la forma en que se alimentaba el sistema. Esta pregunta despertó en mí la necesidad de cuestionar el uso de la IA basado en la discriminación algorítmica y de comenzar a investigar más sobre sus abordajes desde una perspectiva de derechos humanos.
La Tensión Ética en la Tecnología
En esa tesitura, hace un par de semanas se volvió tendencia la decisión de la empresa Anthropic de no eliminar los límites éticos de su tecnología con fines bélicos. Esto generó una tensión con el gobierno de Estados Unidos. Esta postura ética, fundamentada en los derechos humanos, pone sobre la mesa el dilema sobre los límites que las empresas tecnológicas deberían establecer en sus sistemas de IA.
Este ejemplo, desde una perspectiva macro, puede interpretarse de manera sencilla: aunque resulte difícil de creer, no todas las empresas quieren que sus herramientas se utilicen para la guerra, aun cuando ello pudiera generarles ganancias. Pero, ¿qué ocurre en las situaciones de la vida cotidiana? ¿Un chatbot de IA puede utilizarse para hacernos daño?
La Amenaza de la IA en la Juventud
Un estudio del Center for Countering Digital Hate (CCDH) ilustró un escenario del que poco se habla: jóvenes con intenciones de ejercer actos violentos asistidos por IA. A través de diversos supuestos y pruebas realizadas con diferentes sistemas, se encontraron resultados preocupantes.
OpenAI y su sistema, popularmente conocido como ChatGPT, establecen que la edad mínima para su uso es de 13 años. A partir de ese supuesto, el CCDH puso a prueba el sistema mediante un prompt. La IA proporcionó mapas de una escuela a un “usuario” que manifestaba intenciones de realizar un atentado. A su vez, Gemini sugirió estrategias más letales a un “usuario” que quería atacar una sinagoga.
El estudio determinó que 8 de cada 10 chatbots de IA están dispuestos a asistir a usuarios que planean un ataque violento.
Este vacío dentro de los sistemas nos debe llevar a poner atención sobre el papel de la IA en las juventudes. Han pasado de ser una herramienta que hace la tarea a convertirse en asistentes, psicólogos y consejeros. Con ello, surge la necesidad de generar políticas públicas detalladas sobre su funcionamiento.
Letrero en los pasillos de la Universidad de Harvard promocionando una IA que ofrece servicios de psicología
La Necesidad de Regulación
Instituciones como la American Psychological Association recomiendan generar una IA para adolescentes y otra para adultos, basándose en la madurez psicológica de las personas.
Se deben incorporar medidas de seguridad adecuadas para cada edad, como el entrenamiento con datos apropiados, configuraciones predeterminadas de protección y opciones de diseño diferenciadas de las destinadas a usuarios adultos.
La regulación de la IA tiene muchas aristas legislativas pendientes. Sin embargo, considero que aquellas acciones que ponen en riesgo la vida e integridad de las personas son de carácter urgente dentro de esta agenda. El uso cotidiano de esta herramienta siempre estará ligado a la subjetividad con la que las empresas rijan sus principios. La prevención y erradicación de la violencia debe ser un propósito universal.
Conclusión
La ética en la inteligencia artificial no es solo un tema académico. Es una cuestión que afecta a nuestras vidas diarias y a la forma en que interactuamos con la tecnología. Al abordar estos desafíos, es crucial que tengamos en cuenta los derechos humanos y la seguridad de todos los usuarios, especialmente los más vulnerables.
En este contexto, es fundamental que los tomadores de decisiones, activistas y académicos trabajen juntos para crear un marco regulatorio que garantice un uso responsable y ético de la IA. Solo así podremos transformar los problemas sociales en soluciones concretas y efectivas.
Fuentes
Anthropic y su negación de eliminar limites para su uso bélico
Informe de CCDH
Informe de la APA
Román Salvador Sánchez Marmolejo es Licenciado en Derecho por la Universidad Autónoma de Nayarit, Master en Gobernanza y Derechos Humanos por la Universidad Autónoma de Madrid y Maestrante en Acción Política y Gestión Pública en la Universidad Francisco de Vitoria.
Cuenta con diversos diplomados, cursos y talleres en materia de comunicación gubernamental, innovación pública y derechos humanos, destacando su participación en los simposios de Política y Administración Pública 2022 y 2024 que organiza el International Academic Program de la UAM y el DRCLAS de la Universidad de Harvard. Estos le otorgarán el reconocimiento "Agente Transformador" 2024 por su labor en innovación pública en DDHH.
Contacto:
Correo: contacto@regencia.org
Comentarios