La adopción masiva de Chat GPT ha causado problemas en el área de ciberseguridad. A pesar de poder aumentar el PIB mundial hasta en 7%, según datos recientes de Goldman Sachs, Las nuevas tecnologías también plantean riesgos para las empresas y organizaciones..
Incluso fomentando la automatización de tareas., productividad y ahorro de mano de obra, la herramienta puede ayudar en la creación y propagación de amenazas como phishing y malware. El riesgo para las empresas estaría ligado a la alta capacidad de generación de información basada en Inteligencia Artificial.
Altamente creativo, solo algunas preguntas hechas por el chatbot, Los delincuentes potenciales que tienen conocimientos técnicos mínimos pueden automatizar un ataque a la red utilizando códigos lanzados por la herramienta.. Thiago Marqués, especialista en ciberseguridad y socio de Add Value Security, explicó cómo sucede esto.
como el, la herramienta de PNL (Procesamiento del lenguaje natural), presente no Chat GPT, realiza una función de “aprender del pasado” para la creación y generación de contenidos. Los delincuentes pueden utilizar fácilmente este mecanismo para desarrollar campañas de phishing y producir código de ransomware malicioso..
“Con la versión 4, la herramienta puede ofrecer resultados aún más humanos y procesar una mayor cantidad de datos, incluyendo enlaces. Análisis de campañas exitosas y datos existentes., crear campañas de phishing eficientes que se puedan llevar a cabo con pocos conocimientos técnicos”, explica marqués.
Los datos sensibles exponen a las empresas
En realidad, El problema se ve agravado por la gran cantidad de datos corporativos confidenciales disponibles en las herramientas de Inteligencia Artificial.. Incluso la Europol, Agencia de la Unión Europea para la cooperación policial, Recientemente afirmó que el chatbot puede usarse para una serie de fraudes, cibercrimen y desinformación.
Estos análisis de Europol fueron recopilados en su primer informe Tech Watch Flash del año., publicado ahora en marzo. El nombre de la encuesta se tituló como: "GPT Chat: el impacto de los modelos lingüísticos amplios en la aplicación de la ley".
OpenAI hace la vista gorda
La tecnología es tan controvertida que el propio OpenAI, Empresa desarrolladora de Chat GPT, tiene herramientas propias para detectar textos generados por IA. Esto puede ayudar a detectar algún contenido que sea malicioso.. Aparte de eso, La detección de phishing debe ser parte de la estrategia general de red e infraestructura..
“Vale la pena recordar que todas estas tecnologías son muy recientes. Los beneficios son enormes para todos., solo conoce la mejor manera de usarlos. Los profesionales de la ciberseguridad no serán sustituidos por la IA o la NPL, pero tendrán que aprender cómo utilizar mejor las herramientas para seguir defendiéndose de la mejor manera posible”., marques completo.
