Así se entrena a un 'chatbot' para que no dé respuestas peligrosas
Deepmind entrena a su IA conversacional Sparrow para aprender de los comentarios de las personas y buscar información en internet para respaldar sus afirmaciones. Artículo publicado en technologyreview.es y recomendado por Digital Skills Institute el 18 de octubre de 2022.
Los chatbots son robots de inteligencia artificial que se utilizan para responder preguntas o llevar a cabo funciones específicas. Entrenarlos correctamente es clave para asegurar que ofrezcan respuestas adecuadas. Para ello, se utilizan técnicas como el entrenamiento supervisado, el aprendizaje profundo, el análisis de la intención del usuario o el "pre-entrenamiento", entre otras. Estas técnicas permiten a los chatbots interpretar patrones y comprender el contexto de las preguntas, lo que les permite responder adecuadamente. A su vez, el entrenamiento también permite a los chatbots evitar respuestas peligrosas y ofrecer respuestas seguras.
