El avance y consolidación de la inteligencia artificial crea el reto de verificar qué contenidos son creados por algoritmos y cuáles por humanos. Será la única fórmula para desenmascarar contenidos falsos o fraudulentos y evitar que las mentiras proliferen en Internet… y en el mundo académico. Hablamos con Khorst Klaus, fundador de Plag, en su primera entrevista con un medio de España.
¿Puede darnos más detalles sobre las características únicas de PLAG, en particular su plataforma multilingüe y su detector de contenido de IA?
Uno de los mayores diferenciadores es la adaptabilidad a los clientes. Nuestros competidores normalmente ofrecen una solución para todo tipo de público, pero con PLAG y hasta cierto punto podemos adaptar la solución a las necesidades de cada cliente. Otro punto de diferencia es la calidad del producto. Estamos invirtiendo mucho tiempo y esfuerzo para hacer productos súper exactos y precisos, esto les da a nuestros clientes mucho valor, especialmente en comparación con los de nuestros competidores.
¿Cómo logra PLAG una precisión tan alta en la detección de contenido generado por inteligencia artificial?
En lugar de simplemente entrenar modelos con los distintos textos, incluimos información lingüística en los datos de entrenamiento. Esta información nos permite cubrir las diferencias estructurales y lógicas presentes en los textos generados por IA y aumentar en gran medida la precisión del modelo para cada idioma. Por ejemplo, el modelo español se mejoró con 101 criterios y estadísticas de texto diferentes.
¿Puede explicar en detalle cuál es el valor de detectar contenido generado por IA?
Se prevé que en los próximos 5 años el contenido generado por IA representará más del 90%. Por eso, pensamos que la gente debería tener derecho a saber es si se trata de contenido humano o generado por IA. Podría resultar muy beneficioso para luchar contra las noticias falsas, ya que crear noticias falsas con IA generativa es muy fácil.
En segundo lugar, en el momento actual ya existe un gran problema en la educación. Los estudiantes y alumnos utilizan GenAI para hacer tareas o escribir ensayos. Realizamos una encuesta en Lituania que mostró que la mitad de los alumnos de las escuelas utilizaban GenAI para estas tareas. Por eso es importante tener la posibilidad de controlar para garantizar un alto nivel de calidad educativa.
En tercer lugar, es beneficioso para las empresas de creación de contenido poder identificar si se trata de contenido generado por IA simplemente porque el valor del texto generado por IA es mucho menor en comparación con el texto escrito por humanos.
¿Qué motivó la decisión de lanzar esta herramienta en España y qué potencial ve en el mercado español?
En primer lugar, no existía una buena herramienta para detectar contenido generado por IA en español, a diferencia de, por ejemplo, en inglés.
En segundo lugar, el español es un idioma importante, por lo que tener una herramienta para España abre una ventana para los países de América Latina.
Y en tercer lugar, ya hemos recibido algunas consultas de nuestros clientes en España (como la Universidad Jaume I, el Instituto Nacional de Ciberseguridad) sobre dicha herramienta.
¿Cómo Plag entrenó el sistema y con qué volúmenes de texto de qué áreas temáticas? Sobre todo, ¿de dónde proceden los datos del entrenamiento?
Para los textos, los utilizamos de fuentes disponibles públicamente, como blogs y portales de noticias de diversos temas, incluidas varias categorías, como política, tecnología, deportes, entretenimiento, finanzas, salud y noticias internacionales, así como varios informes, ensayos, trabajos de tesis de repositorios universitarios. El conjunto de formación inicial consta de casi 10 millones de frases.
¿Cuál es la importancia de poder detectar contenido generado por IA y cómo beneficia a varios sectores?
Podría ayudar en diferentes sectores. En los medios de comunicación podría ayudar a luchar contra las noticias falsas. En educación podría prevenir las trampas. El contenido generado automáticamente no es algo malo, pero existe la posibilidad de que la tecnología se utilice con malas intenciones, por lo que facilitamos que esto pueda evitarse.
¿Esta función de detección de IA está disponible actualmente en otros países? De ser así, ¿en cuáles?
La herramienta está disponible para los idiomas italiano, francés, inglés, lituano y alemán.
«Plag está disponible en inglés, francés, italiano, alemán, lituano…»
¿Qué impactos y desafíos se prevé con el aumento de la IA generativa en la sociedad, especialmente en la educación y la fuerza laboral?
GenAI cambiará el mundo tal como lo vemos y entendemos. GenAI permite la creación de contenido a escala industrial. Esto significa que la calidad del contenido en su conjunto disminuirá. Y la competencia entre contenidos aumentará enormemente. Las industrias creadoras de contenido pueden correr el riesgo de perder sus ingresos, por lo que necesitarán encontrar algunas formas de hacer que el contenido sea único y preservar un mayor valor. Algunos podrían considerar fortalecer sus marcas.
Probablemente estemos ante el fin de la era de los motores de búsqueda. La abundancia de contenido e información ya está dificultando que empresas como Google ofrezcan resultados de búsqueda relevantes. Ahora es mucho más difícil encontrar información relevante en Google en comparación con 2010 o 2015, ya que a menudo aparecen un montón de páginas irrelevantes optimizadas para SEO además de los resultados. Actualmente, GenAI muestra la capacidad de brindar respuestas relevantes al instante.
GenAI mejorará la eficiencia general en la educación. Ofrece conocimientos accesibles para la sociedad. Podría explicar fácilmente algunos temas difíciles a los usuarios y cubrir las lagunas de los sistemas educativos actuales. Piense en la tecnología como un maestro personal para cada persona en el mundo. Este es el potencial de GenAI.
¿Cómo garantiza el detector Plag AI la privacidad y seguridad de sus usuarios y, al mismo tiempo, proporciona una detección precisa del contenido generado por IA en multiples
La privacidad y la seguridad son nuestro compromiso desde el inicio de la empresa.
¿Qué estrategias tiene Plag para mantener su tecnología de detección de IA por delante de la evolución de los métodos de generación de contenido de IA?
Para mantenernos al día con la evolución de los modelos GenAI, revisamos periódicamente nuestros modelos y los actualizamos con nuevas funciones.
¿Qué papel considera Plag que desempeñará su detector de IA para mantener la integridad académica y combatir la desinformación a nivel mundial?
Creemos que será una de las herramientas esenciales para mantener la integridad académica en universidades y escuelas de todo el mundo.
