X lanza Grok-2 con generación de imágenes: ¿Un arma de doble filo?

El nuevo modelo de xAI, Grok-2, ya está disponible en X, pero su potencial para crear desinformación genera controversia.
***

• xAI lanza Grok-2 en beta con generación de imágenes.
• El modelo aún no tiene restricciones para crear imágenes de figuras políticas.
• Grok-2 se integrará en más funciones de X próximamente.

California, agosto de 2024 — xAI, la compañía de inteligencia artificial fundada por Elon Musk, ha lanzado en fase beta sus nuevos modelos Grok-2 y Grok-2 mini, ambos disponibles exclusivamente para usuarios Premium y Premium+ en la red social X.

Grok-2, una evolución significativa respecto a su predecesor Grok-1.5, trae consigo la capacidad de generar imágenes directamente en la plataforma, una función que ya ha empezado a levantar polémica por la ausencia de controles para evitar su uso en la creación de contenido malicioso.

Potencial innovador y riesgos latentes

La introducción de Grok-2 en X supone un avance tecnológico notable. Según xAI, la versión beta del modelo ya ha sido probada bajo el nombre “sus-column-r” en el LMSYS leaderboard, donde mostró mejoras significativas en áreas como el razonamiento, la generación de código y la creación de textos.

Sin embargo, lo que ha captado la atención de los usuarios es la capacidad del modelo para generar imágenes sin restricciones aparentes.

Usuarios de X han comenzado a explotar esta función creando imágenes de figuras políticas, lo que plantea serias preocupaciones en el contexto de las próximas elecciones presidenciales en EE. UU.

Sin una regulación adecuada, Grok-2 podría convertirse en una herramienta poderosa para la desinformación, un problema que podría escalar rápidamente en la red social.

Una herramienta poderosa, pero polémica

La controversia alrededor de Grok-2 no se limita solo a la generación de imágenes. Aunque xAI ha destacado las capacidades mejoradas del modelo en la creación de código y en la redacción de noticias, hay dudas sobre su precisión.

La versión anterior de Grok ya había mostrado fallos al resumir noticias, lo que genera inquietudes sobre la fiabilidad de este nuevo modelo.

Además, no está claro si las imágenes generadas por Grok incluyen algún tipo de metadato que indique que han sido creadas por inteligencia artificial, lo que dificulta aún más la tarea de identificar y combatir la desinformación.

Mientras tanto, la empresa ha indicado que ambos modelos estarán disponibles para desarrolladores a través de su API empresarial a finales de este mes, lo que podría ampliar aún más su alcance y potencial de impacto.

Futuro incierto para Grok-2 y X

En su blog, xAI mencionó que Grok-2 se integrará en diversas funciones de X, como mejoras en la búsqueda, análisis de publicaciones y respuestas automáticas.

La empresa también planea introducir una vista previa de la comprensión multimodal, que podría revolucionar la interacción en la plataforma.

Sin embargo, la falta de transparencia en cuanto a cómo se gestionarán las imágenes generadas y la posibilidad de que se conviertan en herramientas para la manipulación de la opinión pública sigue siendo una preocupación central.

Ante la presión por parte de los usuarios y la inminente elección presidencial en EE. UU., es probable que X se vea obligada a implementar restricciones más estrictas para el uso de esta tecnología.

Por ahora, la compañía ha evitado responder a preguntas de los medios, dejando en el aire el futuro de esta poderosa herramienta.

Fuentes: Blog de xAI, LMSYS leaderboard

Imagen original de DiarioBitcoin, de uso libre, licenciada bajo Dominio Público

ADVERTENCIA: Este es un artículo de carácter informativo. DiarioBitcoin es un medio de comunicación, no promociona, respalda ni recomienda ninguna inversión en particular. Vale señalar que las inversiones en criptoactivos no están reguladas en algunos países. Pueden no ser apropiadas para inversores minoristas, pues se podría perder el monto total invertido. Consulte las leyes de su país antes de invertir.