{"id":25817974,"date":"2026-10-08T14:59:54","date_gmt":"2026-10-08T12:59:54","guid":{"rendered":"https:\/\/www.demomentsomtres.com\/2026\/10\/que-marco-legal-y-etico-regula-la-inteligencia-artificial\/"},"modified":"2026-10-09T14:56:50","modified_gmt":"2026-10-09T12:56:50","slug":"que-marco-legal-y-etico-regula-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/www.demomentsomtres.com\/es\/2026\/10\/que-marco-legal-y-etico-regula-la-inteligencia-artificial\/","title":{"rendered":"La IA ya toma decisiones. \u00bfQui\u00e9n asume las consecuencias?"},"content":{"rendered":"\n

Hoy, en la Convenci\u00f3n Par\u00e9s i Aubia, ha surgido una pregunta sobre el marco \u00e9tico y legal de la inteligencia artificial: \u00bfQu\u00e9 marco legal y \u00e9tico regula la inteligencia artificial?<\/strong> Me ha parecido especialmente interesante porque a menudo hablamos de las posibilidades de la IA, pero mucho menos de los conflictos reales que plantea su aplicaci\u00f3n.<\/p>\n\n

Y casos, ya tenemos unos cuantos.<\/p>\n\n

Cuando la inteligencia artificial se equivoca: tres casos reales<\/h2>\n\n

En los Pa\u00edses Bajos, el esc\u00e1ndalo de las prestaciones para el cuidado de los hijos<\/a> puso de manifiesto las consecuencias de utilizar sistemas de detecci\u00f3n de fraude que incorporaban criterios discriminatorios. Miles de familias fueron acusadas injustamente y obligadas a devolver ayudas. El problema no era solo tecnol\u00f3gico: era institucional. Los sistemas de clasificaci\u00f3n del riesgo y las decisiones administrativas se hab\u00edan integrado en un sistema que no dispon\u00eda de garant\u00edas suficientes para cuestionarlas. <\/p>\n\n

Amazon abandon\u00f3 una herramienta experimental de selecci\u00f3n de personal<\/a> despu\u00e9s de descubrir que penalizaba determinados curr\u00edculums de mujeres. El sistema hab\u00eda aprendido a partir de datos hist\u00f3ricos de contrataci\u00f3n, mayoritariamente masculinos. No discriminaba porque alguien le hubiera ordenado expl\u00edcitamente hacerlo, sino porque reproduc\u00eda los patrones que hab\u00eda aprendido. <\/p>\n\n

Y en 2024, Air Canada tuvo que responder por la informaci\u00f3n incorrecta<\/a> que su asistente virtual hab\u00eda proporcionado a un cliente sobre una tarifa especial por defunci\u00f3n. La empresa intent\u00f3 desvincularse de la respuesta del sistema, pero el tribunal consider\u00f3 que segu\u00eda siendo responsable de la informaci\u00f3n publicada a trav\u00e9s de sus canales. <\/p>\n\n

Tres casos diferentes que comparten una cuesti\u00f3n de fondo: cuando incorporamos sistemas automatizados a las organizaciones, tambi\u00e9n incorporamos sus errores, sus sesgos y sus consecuencias.<\/strong><\/p>\n\n

\u00bfQu\u00e9 marco legal y \u00e9tico regula la inteligencia artificial?<\/h2>\n\n

Por eso me ha parecido pertinente recuperar dos marcos que ya tenemos disponibles.<\/p>\n\n

UNESCO: los principios \u00e9ticos de la inteligencia artificial<\/h3>\n\n

En 2021, la UNESCO aprob\u00f3 la Recomendaci\u00f3n sobre la \u00e9tica de la inteligencia artificial<\/a>, que establece principios como la no discriminaci\u00f3n, la transparencia, la privacidad, la supervisi\u00f3n humana y la responsabilidad.<\/p>\n\n

Se trata de un marco internacional de recomendaciones que, aunque no es una ley directamente vinculante para las empresas, tambi\u00e9n ofrece orientaciones para trasladar estos principios a la pr\u00e1ctica.<\/p>\n\n

AI Act: el reglamento europeo de inteligencia artificial<\/h3>\n\n

La Uni\u00f3n Europea ha ido m\u00e1s all\u00e1 con el Reglamento de inteligencia artificial, la AI Act<\/a>, que clasifica determinados usos seg\u00fan el riesgo y establece obligaciones espec\u00edficas. No es casual que entre los \u00e1mbitos especialmente sensibles encontremos la selecci\u00f3n de personal, la educaci\u00f3n, el acceso a servicios esenciales o determinados usos de la identificaci\u00f3n biom\u00e9trica. <\/p>\n\n

El reglamento entr\u00f3 en vigor en 2024 y se aplica de manera progresiva, con disposiciones que ya son aplicables y otras que tienen plazos posteriores. Por ello, es importante que las empresas conozcan el marco regulador europeo y su calendario de aplicaci\u00f3n<\/a>, especialmente cuando incorporan sistemas de IA en procesos que pueden afectar a personas o decisiones relevantes. <\/p>\n\n

\u00bfC\u00f3mo afecta el uso de la IA a las decisiones cotidianas de las empresas?<\/h2>\n\n

Ahora bien, lo que me parece m\u00e1s interesante es trasladarlo a las decisiones cotidianas de las empresas.<\/p>\n\n

Imaginemos una empresa que incorpora IA a su CRM<\/a> para puntuar oportunidades comerciales. El sistema aprende que los clientes m\u00e1s rentables hist\u00f3ricamente pertenecen a un determinado sector, tienen una dimensi\u00f3n concreta o provienen de una zona geogr\u00e1fica espec\u00edfica. A partir de ah\u00ed, empieza a descartar sistem\u00e1ticamente otros perfiles. <\/p>\n\n

Quiz\u00e1s mejora la conversi\u00f3n a corto plazo. Pero tambi\u00e9n puede estar condicionando la estrategia comercial de la empresa sin que nadie haya decidido expl\u00edcitamente excluir estos segmentos. <\/p>\n\n

O pensemos en una empresa que utiliza IA para generar c\u00f3digo. El resultado funciona, supera las pruebas iniciales y llega a producci\u00f3n. Meses despu\u00e9s se descubre una vulnerabilidad que expone datos de clientes. \u00bfQui\u00e9n deb\u00eda haber revisado ese c\u00f3digo? \u00bfQu\u00e9 garant\u00edas se hab\u00edan establecido? \u00bfSe ha modificado el proceso de validaci\u00f3n para adaptarlo a la nueva forma de programar? <\/p>\n\n

Este segundo ejemplo me resulta especialmente cercano. En nuestro sector veo c\u00f3mo la IA acelera enormemente la producci\u00f3n, pero tambi\u00e9n c\u00f3mo puede generar una falsa sensaci\u00f3n de solvencia. Un resultado bien presentado, coherente y aparentemente funcional puede esconder errores que solo alguien con suficiente experiencia es capaz de detectar. <\/p>\n\n

Y aqu\u00ed hay una paradoja que me preocupa: justo cuando la tecnolog\u00eda permite ejecutar m\u00e1s tareas con menos experiencia, el criterio profesional se vuelve m\u00e1s necesario.<\/strong><\/p>\n\n

De la regulaci\u00f3n a la pr\u00e1ctica: la responsabilidad de las empresas<\/h2>\n\n

No creo que la respuesta sea limitar el uso de la IA. Al contrario. Pero s\u00ed que deber\u00edamos revisar c\u00f3mo distribuimos las responsabilidades, qu\u00e9 validaciones exigimos y qu\u00e9 competencias necesitan los equipos. <\/p>\n\n

La UNESCO nos ofrece un marco \u00e9tico. La Uni\u00f3n Europea concreta las obligaciones legales. A las empresas nos corresponde convertir estos principios en procedimientos verificables. <\/p>\n\n

Por ejemplo, no es lo mismo declarar que una organizaci\u00f3n garantiza la supervisi\u00f3n humana que establecer qui\u00e9n revisa una decisi\u00f3n automatizada, con qu\u00e9 informaci\u00f3n, en qu\u00e9 momento y con capacidad real para modificarla.<\/p>\n\n

Esta es, para m\u00ed, la cuesti\u00f3n interesante que ha aparecido hoy en la convenci\u00f3n: no tanto si la IA necesita \u00e9tica o regulaci\u00f3n, sino si las organizaciones estamos adaptando nuestros mecanismos de decisi\u00f3n y control a la velocidad con la que incorporamos esta tecnolog\u00eda.<\/p>\n\n

Porque automatizar una tarea es relativamente f\u00e1cil. Saber qu\u00e9 estamos delegando, y qu\u00e9 no, es otra cosa.<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

Hoy, en la Convenci\u00f3n Par\u00e9s i Aubia, ha surgido una pregunta sobre el marco \u00e9tico y legal de la inteligencia artificial: \u00bfQu\u00e9 marco legal y \u00e9tico regula la inteligencia artificial? Me ha parecido especialmente interesante porque a menudo hablamos de las posibilidades de la IA, pero mucho menos de los conflictos reales que plantea su […]<\/p>\n","protected":false},"author":2,"featured_media":25817986,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_et_pb_use_builder":"off","_et_pb_old_content":"","_et_gb_content_width":"","footnotes":""},"categories":[4462,796,4605],"tags":[4474,4464],"class_list":["post-25817974","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","category-blog-comunicacion-marqueting","category-i","tag-ai-es","tag-ia-es"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.demomentsomtres.com\/es\/wp-json\/wp\/v2\/posts\/25817974","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.demomentsomtres.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.demomentsomtres.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.demomentsomtres.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.demomentsomtres.com\/es\/wp-json\/wp\/v2\/comments?post=25817974"}],"version-history":[{"count":1,"href":"https:\/\/www.demomentsomtres.com\/es\/wp-json\/wp\/v2\/posts\/25817974\/revisions"}],"predecessor-version":[{"id":25817975,"href":"https:\/\/www.demomentsomtres.com\/es\/wp-json\/wp\/v2\/posts\/25817974\/revisions\/25817975"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.demomentsomtres.com\/es\/wp-json\/wp\/v2\/media\/25817986"}],"wp:attachment":[{"href":"https:\/\/www.demomentsomtres.com\/es\/wp-json\/wp\/v2\/media?parent=25817974"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.demomentsomtres.com\/es\/wp-json\/wp\/v2\/categories?post=25817974"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.demomentsomtres.com\/es\/wp-json\/wp\/v2\/tags?post=25817974"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}