El físico participa en el primer informe de la ONU sobre IA y alerta del poder de las grandes tecnológicas y los riesgos para la ciberseguridad
El desarrollo, implantación y consecuencias del uso de la inteligencia artificial han llevado a Naciones Unidas a elaborar un primer informe dentro de su Panel Científico. Un español, el físico vasco Román Orús, ha tomado parte en su desarrollo y ha contado en Onda Regional que el impacto de la IA es comparable con el Proyecto Manhattan: el diseño de la primera bomba atómica.
Aunque pueda parecer una exageración, Román Orús apunta que la tecnológica Anthropic ha desarrollado un modelo llamado Mythos que es capaz de reventar la seguridad digital del planeta en un tiempo récord. Todo se basa en los datos y la ciberseguridad.
Ese modelo ha sido capaz de detectar diez mil fallos graves en solo cinco días en sistemas que creíamos infalibles. El hallazgo demuestra el potencial de la herramienta, pero también el peligro de que caiga en las manos equivocadas. Debe preocuparnos porque puede ser un problema incluso para la democracia.
La advertencia está sobre la mesa: los gigantes de Silicon Valley tienen ya más poder de maniobra que la propia Unión Europea. Aunque hay que esperar a julio para conocer la letra pequeña del informe de la ONU, Orús advierte que Europa tiene que ponerse las pilas.
