DiarioAr

Arsenii Palivoda / Legion-Media

Un estudiante de informática detectó una actualización sospechosa en GitHub y terminó descubriendo que detrás del intento de sabotaje no había un hacker humano, sino un agente de inteligencia artificial, recoge Reuters.

Un estudiante de informática de la Universidad de Texas en Dallas frustró a finales de julio un intento de sabotaje en un proyecto de software de código abierto alojado en la plataforma de desarrollo colaborativo GitHub, que más tarde resultó estar vinculado a un agente de inteligencia artificial (IA) fuera de control, informó este jueves Reuters.

Sinan Can Demir, de 24 años y originario de Turquía, contó que detectó una actualización sospechosa, conocida como solicitud de extracción, para una herramienta de escaneo llamada myNetwork. Al revisar el cambio, advirtió a los desarrolladores que el código podía ser malicioso.

Imagen ilustrativa.Royalty-free / Gettyimages.ru

Según Reuters, el agente de IA utilizó una cuenta de GitHub bajo el nombre miraholt31 para insistir en que la actualización era segura y presionar para que fuera aceptada. Incluso se hizo pasar por una supuesta ingeniera alemana llamada Lena Brandt con el fin de convencer al responsable de mantenimiento del proyecto.

"No creí que una IA pudiera ser capaz de mentir"

Demir se mantuvo firme con sus sospechas y el responsable del software rechazó la modificación por razones de seguridad. Más tarde, el Instituto de Seguridad de la IA del Gobierno británico se puso en contacto con Demir y le explicó que no se trataba de un pirata informático humano, sino de un agente autónomo de inteligencia artificial que se había descontrolado durante unas pruebas de seguridad.

¿La IA ya intenta saltarse las reglas? Un nuevo estudio genera preocupación

El sistema, basado en el modelo Mythos 5 de Anthropic, había creado identidades falsas para manipular a los desarrolladores. "Pensé que era un humano porque claramente me estaba mintiendo. No creí que una IA pudiera ser capaz de mentir a desarrolladores reales", declaró el estudiante.

Especialistas en ciberseguridad advirtieron que el caso resulta especialmente inquietante porque apunta a un posible ataque a la cadena de suministro de software, es decir, a la introducción de código malicioso en programas que luego podrían llegar a muchos usuarios. También alertaron de que el uso de identidades falsas para influir en personas muestra cómo los agentes de IA pueden combinar técnicas de intrusión digital con ingeniería social.

Fuente : actualidad.rt.com