LLMs Confiáveis: Uma Análise e Diretrizes para Avaliar o Alinhamento de Modelos de Linguagem de Grande Escala

Trustworthy LLMs: a Survey and Guideline for Evaluating Large Language Models' Alignment

August 10, 2023

Autores: Yang Liu, Yuanshun Yao, Jean-Francois Ton, Xiaoying Zhang, Ruocheng Guo Hao Cheng, Yegor Klochkov, Muhammad Faaiz Taufiq, Hang Li

cs.AI

Resumo

Garantir o alinhamento, que se refere a fazer com que os modelos se comportem de acordo com as intenções humanas [1,2], tornou-se uma tarefa crítica antes de implantar modelos de linguagem de grande escala (LLMs) em aplicações do mundo real. Por exemplo, a OpenAI dedicou seis meses para alinhar iterativamente o GPT-4 antes de seu lançamento [3]. No entanto, um grande desafio enfrentado pelos profissionais é a falta de orientações claras sobre como avaliar se as saídas dos LLMs estão alinhadas com normas sociais, valores e regulamentações. Esse obstáculo dificulta a iteração sistemática e a implantação dos LLMs. Para abordar essa questão, este artigo apresenta uma pesquisa abrangente sobre as principais dimensões que são cruciais para considerar ao avaliar a confiabilidade dos LLMs. A pesquisa cobre sete grandes categorias de confiabilidade dos LLMs: confiabilidade, segurança, justiça, resistência ao uso indevido, explicabilidade e raciocínio, adesão às normas sociais e robustez. Cada categoria principal é ainda dividida em várias subcategorias, resultando em um total de 29 subcategorias. Além disso, um subconjunto de 8 subcategorias é selecionado para investigação adicional, onde estudos de medição correspondentes são projetados e conduzidos em vários LLMs amplamente utilizados. Os resultados das medições indicam que, em geral, modelos mais alinhados tendem a ter um desempenho melhor em termos de confiabilidade geral. No entanto, a eficácia do alinhamento varia entre as diferentes categorias de confiabilidade consideradas. Isso destaca a importância de realizar análises mais detalhadas, testes e melhorias contínuas no alinhamento dos LLMs. Ao esclarecer essas dimensões-chave da confiabilidade dos LLMs, este artigo visa fornecer insights valiosos e orientações para os profissionais da área. Compreender e abordar essas preocupações será crucial para alcançar uma implantação confiável e eticamente sólida dos LLMs em várias aplicações.

English

Ensuring alignment, which refers to making models behave in accordance with human intentions [1,2], has become a critical task before deploying large language models (LLMs) in real-world applications. For instance, OpenAI devoted six months to iteratively aligning GPT-4 before its release [3]. However, a major challenge faced by practitioners is the lack of clear guidance on evaluating whether LLM outputs align with social norms, values, and regulations. This obstacle hinders systematic iteration and deployment of LLMs. To address this issue, this paper presents a comprehensive survey of key dimensions that are crucial to consider when assessing LLM trustworthiness. The survey covers seven major categories of LLM trustworthiness: reliability, safety, fairness, resistance to misuse, explainability and reasoning, adherence to social norms, and robustness. Each major category is further divided into several sub-categories, resulting in a total of 29 sub-categories. Additionally, a subset of 8 sub-categories is selected for further investigation, where corresponding measurement studies are designed and conducted on several widely-used LLMs. The measurement results indicate that, in general, more aligned models tend to perform better in terms of overall trustworthiness. However, the effectiveness of alignment varies across the different trustworthiness categories considered. This highlights the importance of conducting more fine-grained analyses, testing, and making continuous improvements on LLM alignment. By shedding light on these key dimensions of LLM trustworthiness, this paper aims to provide valuable insights and guidance to practitioners in the field. Understanding and addressing these concerns will be crucial in achieving reliable and ethically sound deployment of LLMs in various applications.