Responsible Prompting: caminhos para uma interação responsável com LLMs

Bluetalks são encontros vibrantes com discussões aprofundadas sobre tecnologia e inovação, apresentando os mais recentes projetos de pesquisa da IBM Research Brasil.

O prompt é um primeiro ponto de contato entre usuários e grandes modelos de linguagem (LLMs). A qualidade do prompt enviado influencia a saída do modelo, a manutenção de suas diretrizes de segurança e a experiência de quem está utilizando. A criação de prompts geralmente depende de conhecimento especializado em IA e pode ser desafiadora para aqueles sem familiaridade com essa tecnologia. Ainda, as práticas de prompting estão em constante evolução. Há inúmeras maneiras inovadoras e também prejudiciais de interagir com modelos de IA generativa, o que torna mais difícil para que as pessoas se mantenham informados sobre as práticas mais recentes de prompting.

Nessa apresentação, demonstramos uma maneira de resolver esse problema com o uso do Responsible Prompting [1]. Ele é um sistema de recomendação leve, que funciona com qualquer LLM, e visa auxiliar na elaboração de prompts que reflitam intenções responsáveis, enquanto ajuda a evitar saídas indesejadas ou negativas. Conforme o usuário escreve um prompt, ele sugere frases a serem adicionadas com base em conceitos e valores sociais, e também mostra aspectos específicos que podem ser removidos ou editados do prompt.

[1] Can LLMs Recommend More Responsible Prompts?