El laboratorio de investigación de Inteligencia Artificial OpenAI ha publicado un discutible sistema de IA que genera texto, denominado GPT-2, que es capaz de predecir la siguiente palabra que debería seguir párrafos de texto extensos
El sistema de IA que genera texto se anunció por primera vez en febrero de 2019, pero no se lanzó oficialmente en ese momento. Fue por el temor de que el modelo entrenado de GPT-2 podría usarse para intenciones maliciosas como difundir noticias falsas, spam e información engañosa. En un momento en que se culpa al gigante de las redes sociales y a los motores de búsqueda por difundir noticias falsas y afectar las elecciones políticas, era mejor no lanzar la versión completa del sistema de IA que genera texto.
Desde entonces, OpenAI lanzó en línea fragmentos más pequeños y menos complejos de GPT-2 y estudió cómo los desarrolladores e investigadores los están utilizando. Ahora, que la organización no ha encontrado ninguna evidencia sólida de mal uso , por lo tanto, ha lanzado oficialmente el sistema de inteligencia artificial en su totalidad.
Entonces, ¿qué es exactamente capaz de GPT-2, preguntas? Bueno, GPT-2 es un modelo de lenguaje de generación de texto que es capaz de generar fragmentos coherentes de texto (muestra) basados en la entrada del usuario. OpenAI entrenó este modelo de IA en ocho millones de documentos de texto extraídos de la web y también usó fragmentos de texto de muestra ingresados por los investigadores.
OpenAI ha descrito este sistema de inteligencia artificial como un "camaleón", ya que puede adaptarse al estilo de escritura del usuario en función del contenido de la muestra. Y no necesita alimentar mucha información para generar una noticia, historia o poema. Hay una razón por la cual los expertos temían que GPT-2 pudiera usarse para actividades maliciosas. Puede generar fácilmente noticias falsas basadas en un titular, deletrear un poema completo basado en la primera línea, escribir recetas basadas en todos los ingredientes y mucho más.
Esta es la razón por la que los investigadores han calificado este sistema de IA como "demasiado peligroso" para ser publicado en línea. Los sistemas de inteligencia artificial como estos están en el "centro del debate" en torno a la intención maliciosa y el daño que podría causar a las masas. OpenAI también tiene algunas reservas, pero ha seguido adelante con el lanzamiento. Dice que los textos sintéticos tienen una mayor probabilidad de mal uso si el resultado es demasiado coherente y confiable. Por lo tanto, ha desarrollado una herramienta para detectar fragmentos sintéticos de texto, en una medida segura para contrarrestar su propio modelo de IA.
Entonces, si está interesado, puede consultar las impresionantes capacidades de inteligencia artificial de GPT-2 utilizando esta herramienta en línea llamada TalktoTransformer.com (Transformer es un componente de aprendizaje automático utilizado para crear el sistema de inteligencia artificial GPT-2) ingresando su propio fragmento de texto. ¿Te voló la cabeza? Comparta sus resultados con nosotros en los comentarios a continuación
Fecha actualización el 2021-11-12. Fecha publicación el 2019-11-12. Categoría: noticias falsas Autor: Oscar olg Mapa del sitio Fuente: beebom Version movil