PrefPalette: Personalisierte Präferenzmodellierung mit latenten Attributen

PrefPalette: Personalized Preference Modeling with Latent Attributes

July 17, 2025

papers.authors: Shuyue Stella Li, Melanie Sclar, Hunter Lang, Ansong Ni, Jacqueline He, Puxin Xu, Andrew Cohen, Chan Young Park, Yulia Tsvetkov, Asli Celikyilmaz

cs.AI

papers.abstract

Die Personalisierung von KI-Systemen erfordert nicht nur das Verständnis der Präferenzen der Nutzer, sondern auch der Gründe, die diesen Präferenzen zugrunde liegen – dennoch behandeln aktuelle Präferenzmodelle menschliche Urteile typischerweise als Blackbox. Wir stellen PrefPalette vor, ein Framework, das Präferenzen in Attributdimensionen zerlegt und seine Präferenzvorhersage auf die spezifischen Werte verschiedener sozialer Gemeinschaften in einer für Menschen interpretierbaren Weise abstimmt. PrefPalette operationalisiert ein Prinzip der Kognitionswissenschaft, das als mehrdimensionale Entscheidungsfindung bekannt ist, auf zwei Arten: (1) einen skalierbaren Schritt der kontrafaktischen Attributsynthese, bei dem synthetische Trainingsdaten generiert werden, um die Effekte einzelner Attribute (z. B. Formalität, Humor, kulturelle Werte) zu isolieren, und (2) ein auf Aufmerksamkeit basierendes Präferenzmodellierung, das lernt, wie verschiedene soziale Gemeinschaften diese Attribute dynamisch gewichten. Dieser Ansatz geht über die aggregierte Präferenzmodellierung hinaus, um die vielfältigen Bewertungsrahmen zu erfassen, die menschliche Urteile antreiben. Bei der Auswertung von 45 sozialen Gemeinschaften der Online-Plattform Reddit übertraf PrefPalette GPT-4o um 46,6 % in der durchschnittlichen Vorhersagegenauigkeit. Neben den reinen Vorhersageverbesserungen lieferte PrefPalette auch intuitive, gemeinschaftsspezifische Profile: wissenschaftliche Gemeinschaften priorisieren Ausführlichkeit und Anregung, konfliktorientierte Gemeinschaften schätzen Sarkasmus und Direktheit, und unterstützungsbasierte Gemeinschaften betonen Empathie. Indem PrefPalette die attributvermittelte Struktur menschlicher Urteile modelliert, bietet es sowohl eine überlegene Präferenzmodellierung als auch transparente, interpretierbare Einblicke und stellt einen ersten Schritt hin zu vertrauenswürdigeren, wertbewussten personalisierten Anwendungen dar.

English

Personalizing AI systems requires understanding not just what users prefer, but the reasons that underlie those preferences - yet current preference models typically treat human judgment as a black box. We introduce PrefPalette, a framework that decomposes preferences into attribute dimensions and tailors its preference prediction to distinct social community values in a human-interpretable manner. PrefPalette operationalizes a cognitive science principle known as multi-attribute decision making in two ways: (1) a scalable counterfactual attribute synthesis step that involves generating synthetic training data to isolate for individual attribute effects (e.g., formality, humor, cultural values), and (2) attention-based preference modeling that learns how different social communities dynamically weight these attributes. This approach moves beyond aggregate preference modeling to capture the diverse evaluation frameworks that drive human judgment. When evaluated on 45 social communities from the online platform Reddit, PrefPalette outperforms GPT-4o by 46.6% in average prediction accuracy. Beyond raw predictive improvements, PrefPalette also shed light on intuitive, community-specific profiles: scholarly communities prioritize verbosity and stimulation, conflict-oriented communities value sarcasm and directness, and support-based communities emphasize empathy. By modeling the attribute-mediated structure of human judgment, PrefPalette delivers both superior preference modeling and transparent, interpretable insights, and serves as a first step toward more trustworthy, value-aware personalized applications.