OpenAI lanza herramienta de generación de imágenes en ChatGPT, pero surgen preocupaciones sobre su uso fraudulento
La reciente herramienta de OpenAI para generar imágenes en ChatGPT genera entusiasmo, pero también inquietudes sobre su potencial uso fraudulento en la creación de recibos.
En los últimos días, ha surgido un gran revuelo en torno a OpenAI, especialmente tras el lanzamiento de su nueva herramienta de generación de imágenes para ChatGPT, impulsada por el modelo GPT-4o. Esta herramienta promete capacidades de generación de imágenes que van más allá de la simple creación de memes, ya que ha demostrado ser extraordinariamente eficiente en la generación de recibos falsos.
Los analistas de TechRadar han observado que los recibos generados por la inteligencia artificial presentan señales sutiles que pueden delatar su origen artificial, como un diseño "demasiado limpio" o errores en los totales. No obstante, estos detalles pueden pasarse por alto fácilmente, lo que representa un riesgo de uso fraudulento. Además, la popularidad de programas como Photoshop puede facilitar la corrección de esos errores evidentes en los recibos generados.
A pesar de la posibilidad de que esta herramienta sea utilizada para actividades fraudulentas, OpenAI no muestra una gran preocupación. Un portavoz de la empresa declaró que están monitoreando la generación de imágenes tanto en su plataforma como en otras, y que utilizan herramientas internas para verificar que las imágenes han sido creadas por sus productos. También aseguran que toman medidas cuando se identifican violaciones de sus políticas de uso.
OpenAI destaca que, aunque los recibos generados por IA presentan riesgos, también pueden tener aplicaciones positivas, como en clases de educación financiera. La compañía recalca que están aprendiendo constantemente de la retroalimentación del mundo real y que continuarán ajustando sus políticas para equilibrar la libertad creativa con la prevención del mal uso. Además, todos las imágenes generadas incluyen metadatos estándar de la industria que indican que han sido creadas por OpenAI.