OpenAI, el desarrollador detrás del chatbot de inteligencia artificial (IA) ChatGPT, ha colaborado con su principal inversor, Microsoft, para prevenir cinco ciberataques vinculados a diferentes actores maliciosos.

Interrumpimos el uso de nuestra plataforma por parte de cinco actores cibernéticos maliciosos afiliados al estado.

Trabajo realizado en colaboración con Microsoft Threat Intelligence Center. https://t.co/xpEeQDYjrQ

- OpenAI (@OpenAI) Febrero 14, 2024

De acuerdo a una reporte publicado el miércoles, Microsoft ha monitoreado grupos de piratería vinculados a la inteligencia militar rusa, la Guardia Revolucionaria de Irán y los gobiernos de China y Corea del Norte, que, según dice, han estado explorando el uso de modelos de lenguaje grande (LLM) de IA en sus estrategias de piratería.

Los LLM utilizan vastos conjuntos de datos de texto para crear respuestas que suenan humanas.

OpenAI reportaron que los cinco ciberataques se originaron en dos grupos asociados con China: Charcoal Typhoon y Salmon Typhoon. 

Los ataques estuvieron vinculados a Irán a través de Crimson Sandstorm, Corea del Norte a través de Emerald Sleet y Rusia a través de Forest Blizzard.

Los grupos intentaron emplear ChatGPT-4 para investigar herramientas empresariales y de ciberseguridad, depurar código, generar scripts, realizar campañas de phishing, traducir documentos técnicos, evadir la detección de malware y estudiar la comunicación por satélite y la tecnología de radar, según OpenAI. 

Las cuentas fueron desactivadas al ser detectadas.

Ver también: ¡Cuidado con el nuevo token ERC-404! Un comerciante de criptomonedas perdió 26 dólares en tokens sin control (NO) Rugpull

La compañía reveló el descubrimiento mientras implementaba una prohibición general de que los grupos de piratería respaldados por el estado utilicen productos de inteligencia artificial. 

Si bien OpenAI evitó eficazmente estos sucesos, reconoció el desafío de evitar todo uso malicioso de sus programas.

Tras una oleada de estafas y deepfakes generadas por IA tras el lanzamiento de ChatGPT, los formuladores de políticas intensificaron el escrutinio de los desarrolladores de IA generativa. 

En junio de 2023, OpenAI anunció un programa de subvenciones de ciberseguridad de 1 millón de dólares para mejorar y medir el impacto de las tecnologías de ciberseguridad impulsadas por la IA.

A pesar de los esfuerzos de OpenAI en ciberseguridad y la implementación de salvaguardas para evitar que ChatGPT genere respuestas dañinas o inapropiadas, los piratas informáticos han encontrado métodos para eludir estas medidas y manipular el chatbot para producir dicho contenido.

Más de 200 entidades, incluidas OpenAI, Microsoft, Anthropic y Google, colaboraron recientemente con la Administración Biden para establecer el AI Safety Institute y el United States AI Safety Institute Consortium (AISIC). 

Ver también: El Banco Central de Rusia observó un fuerte aumento de las estafas criptográficas y la criminalidad dentro del país

Los grupos se establecieron como resultado de la orden ejecutiva del presidente Joe Biden sobre seguridad de la IA a finales de octubre de 2023, cuyo objetivo es promover el desarrollo seguro de la IA, combatir los deepfakes generados por la IA y abordar problemas de ciberseguridad.

#Binance #ESCRIBIR2EARN