ChatGpt y la seguridad de la informacion.
Una nueva investigación ha descubierto circulando por la Dark Web más de 100.000 cuentas de ChatGPT. Los ciberdelincuentes podrían tener acceso a todas tus conversaciones privadas y datos en caso de haberlos expuesto en el chat.
En una investigación reciente, investigadores de seguridad cibernética de Group-IB han descubierto una tendencia preocupante que involucra a más de 100.000 dispositivos infectados por ciberdelincuentes con detalles de inicio de sesión de ChatGPT guardados.
Han encontrado en concreto 101.134 credenciales de ChatGPT escondidas en los registros de malware de robo de información comercializado en los mercados de la Dark Web durante los últimos 12 meses, y más de una cuarta parte de ellos se han incorporado solo de mayo de 2023.
Tabla de contenido:
ChatGpt es una increíble innovación en el mundo de la inteligencia artificial (IA) y el procesamiento del lenguaje natural (PLN). Desarrollado por OpenAI, ChatGpt representa la próxima generación de chatbots impulsados por modelos de lenguaje de última tecnología, en particular el conocido modelo GPT-3 (Generative Pre-trained Transformer 3).
Este impresionante avance en IA permite a las empresas y usuarios interactuar con un chatbot que parece casi humano. ChatGpt cuenta con más de 175 millones de parámetros, lo que le otorga una comprensión excepcional del lenguaje y la capacidad de mantener conversaciones significativas y precisas.
La clave de su éxito radica en su capacidad para aprender cantidades enormes de texto, lo que le permite responder preguntas de manera coherente y proporcionar información relevante y útil. A medida que más usuarios interactúan con ChatGpt, este se vuelve cada vez más inteligente y preciso, brindando respuestas más adecuadas y personalizadas.
ChatGpt ha cautivado la atención de expertos en inteligencia artificial (IA) y tecnología de todo el mundo, descubriendo una discusión animada sobre sus capacidades y sus indicaciones en campos diversos. Aquí te presentamos las opiniones de los expertos más destacados sobre esta impresionante innovación:
Dmitry Shestakov – Jefe de inteligencia de amenazas de Group-IB:
“Dado que la configuración estándar de ChatGpt conserva todas las conversaciones, esto podría ofrecer inadvertidamente una gran cantidad de inteligencia confidencial a los actores de amenazas si obtienen las credenciales de la cuenta”. Dmitry Shestakov destaca una preocupación importante relacionada con la privacidad y seguridad de datos en el uso de ChatGpt. Su opinión resalta la necesidad de implementar medidas de seguridad adicionales para proteger la información confidencial y evitar el acceso no autorizado a las conversaciones almacenadas.
Jake Moore – Asesor de seguridad cibernética global de ESET:
“Es posible que las personas no se den cuenta de que sus cuentas de ChatGpt puedan, de hecho, contener una gran cantidad de información confidencial que buscan los ciberdelincuentes”.Jake Moore destaca la importancia de que los usuarios sean conscientes de los riesgos potenciales al utilizar ChatGpt y de la necesidad de tomar precauciones adicionales para proteger la privacidad de sus conversaciones. Su opinión destaca la responsabilidad tanto de los usuarios como de las empresas en asegurar que los datos confidenciales estén protegidos.
Plataforma Threat Intelligence de Group-IB:
“La plataforma Threat Intelligence de Group-IB, que monitorea las actividades de la Dark Web en tiempo real, es la que ha conseguido identificar esta brecha y actualmente ya se ha convertido en un recurso esencial para identificar credenciales comprometidas, tarjetas de crédito robadas, muestras recientes de malware y acceso a redes corporativas, con el objetivo de avisar a los posibles afectados.” La plataforma destaca la importancia de la monitorización en tiempo real de las actividades en la Dark Web para identificar y prevenir posibles riesgos relacionados con ChatGpt. Su opinión enfatiza la necesidad de contar con herramientas y soluciones de seguridad adecuadas para protegerse contra posibles amenazas cibernéticas.
En resumen, los expertos en inteligencia artificial y ciberseguridad expresaron opiniones variadas sobre ChatGpt, reconociendo sus alertas y beneficios, pero también sobre la importancia de tomar precauciones adicionales para proteger la privacidad y seguridad de los datos. Es esencial que las empresas y usuarios comprendan los riesgos y busquen soluciones de seguridad sólidas para aprovechar al máximo las ventajas de esta tecnología innovadora sin comprometer la confidencialidad de las conversaciones y la información.
ChatGpt ha revolucionado la interacción entre humanos y máquinas con su capacidad para mantener conversaciones inteligentes y coherentes. Sin embargo, como con cualquier tecnología disruptiva, es fundamental tomar precauciones para garantizar la seguridad y privacidad de los usuarios. Aquí te presentamos algunas recomendaciones clave para hacer un uso responsable y efectivo de ChatGpt:
- Veracidad: Tenga en cuenta que los modelos de generación de lenguaje natural como ChatGPT pueden generar contenido que no es veraz o que puede ser ofensivo para algunas personas. Por lo tanto, es importante ser crítico con la información que se genera y verificar su exactitud antes de compartirla con otros.
- Información confidencial: Si está utilizando ChatGPT en un entorno empresarial, tenga en cuenta que puede generar información confidencial o propiedad intelectual. Por lo tanto, asegúrese de establecer políticas claras de seguridad y privacidad para proteger su información y propiedad intelectual.
- Supervisión humana: Al utilizar ChatGPT en un entorno de atención al cliente, es importante tener en cuenta que puede generar respuestas que no sean apropiadas o que no satisfagan las necesidades del cliente. Por lo tanto, es importante entrenar a su modelo y proporcionar supervisión humana para garantizar que las respuestas sean precisas y satisfagan las necesidades del cliente.
- Implicancias éticas y sociales: Tenga en cuenta que el uso de modelos de generación de lenguaje natural como ChatGPT puede tener implicaciones éticas y sociales importantes. Por lo tanto, es importante ser consciente de cómo se utiliza el modelo y cómo puede afectar a las personas y a la sociedad en general.
- Riesgo de contenido: Si planea utilizar ChatGPT en una aplicación o plataforma en línea, es importante tener en cuenta los riesgos de seguridad asociados con la generación de contenido generado por la máquina. Asegúrese de tomar medidas para proteger su plataforma y los usuarios que interactúan con ella.
“Podría ser una buena idea deshabilitar la función de guardado de chat a menos que sea absolutamente necesario. Cuantos más datos ingresen los chatbots, más atractivos serán para los actores de amenazas, por lo que también se recomienda pensar detenidamente qué información ingresa en la nube. chatbots basados y otros servicios”
Al ser un chatbot de carácter general, se puede chatear con ChatGPT de forma similar a como se hablaría con un humano. Sin embargo, puede tener comportamientos no deseados e incluso dañinos en ciertas ocasiones. Por eso, a día de hoy, un chatbot entrenado únicamente para las interacciones específicas que podría requerir una empresa es una herramienta mucho más fiable y controlable. Además, puede presentar una imagen más específica que ChatGPT.
En este sentido, integrar un chatbot que responda a las preguntas específicas de los clientes utilizando ChatGPT para dar respuesta a cuestiones más generales es todavía un reto. Uno de los retos del futuro más inmediato, pero un reto al fin y al cabo.
