Crece la preocupación por la inteligencia artificial entre sus desarrolladores

El avance acelerado de la inteligencia artificial genera crecientes preocupaciones no solo entre el público y expertos, sino también entre quienes la desarrollan, quienes ahora advierten sobre los posibles riesgos y desafíos éticos que plantea su evolución.

Un creciente escepticismo social ante la inteligencia artificial

En los últimos meses, el debate sobre la inteligencia artificial ha traspasado los límites de los círculos especializados y se ha instalado con fuerza en el debate público. Basta con asomarse a las redes sociales para comprobar un clima de desconfianza cada vez más palpable: desde estudiantes que interrumpen ceremonias universitarias criticando los discursos pro-IA, hasta comunidades que rechazan la instalación de nuevos centros de datos de grandes dimensiones. Este malestar refleja una preocupación generalizada sobre el impacto y el rumbo del desarrollo tecnológico.

Los líderes tecnológicos admiten los peligros latentes

Por primera vez, voces influyentes dentro del propio sector tecnológico reconocen públicamente la gravedad de los desafíos asociados a esta tecnología. Dario Amodei, máximo responsable de Anthropic, advierte en su reciente ensayo «La adolescencia de la tecnología» que la humanidad está a punto de acceder a un poder casi inimaginable, sin garantías reales sobre su capacidad para gestionarlo. En su opinión, aunque sería precipitado imponer una moratoria total sin evidencias claras, urge abrir un debate verdaderamente responsable.

En una línea similar, Sam Altman, director ejecutivo de OpenAI, no duda en alertar ante el Congreso estadounidense sobre riesgos concretos: sistemas avanzados de IA podrían facilitar el acceso a conocimientos peligrosos como la elaboración de armas biológicas, bajando barreras antes infranqueables para individuos con intenciones dudosas.

Llamamientos urgentes a favor de una regulación firme

Al calor de estas advertencias, algunos dirigentes se desmarcan del discurso tradicionalmente liberal de Silicon Valley y reclaman normas inmediatas. Para Marc Benioff, al frente de Salesforce, resulta inadmisible que la responsabilidad empresarial siga blindada por normativas como la famosa Sección 230. Así lo expresa: si un adolescente llegase al suicidio incitado por una IA, la empresa no respondería legalmente. «Eso debe cambiar», recalca.

Varios elementos explican esta decisión:

• Transparency in Frontier AI Act (SB 53): ley californiana que exige transparencia a desarrolladores y ampara a denunciantes.
• Local Law 144 of 2021: en Nueva York obliga a auditar sesgos en sistemas automatizados para selección laboral.

Grietas en la protección ética y técnica actual

Si bien estos marcos legales ofrecen cierta tranquilidad en papel, numerosos expertos consideran que resultan insuficientes frente al avance imparable y las fallas reales detectadas —desde proliferación de deepfakes hasta fallos graves en sistemas aún inmaduros—. El dilema permanece abierto: ¿estará nuestra sociedad preparada para afrontar las consecuencias cuando este poder tecnológico sea completamente inevitable?