PrefPalette: Gepersonaliseerde Voorkeursmodellering met Latente Attributen

PrefPalette: Personalized Preference Modeling with Latent Attributes

July 17, 2025

Auteurs: Shuyue Stella Li, Melanie Sclar, Hunter Lang, Ansong Ni, Jacqueline He, Puxin Xu, Andrew Cohen, Chan Young Park, Yulia Tsvetkov, Asli Celikyilmaz

cs.AI

Samenvatting

Het personaliseren van AI-systemen vereist niet alleen inzicht in wat gebruikers prefereren, maar ook in de redenen die aan die voorkeuren ten grondslag liggen – toch behandelen huidige voorkeursmodellen menselijk oordeel doorgaans als een black box. Wij introduceren PrefPalette, een raamwerk dat voorkeuren ontleedt in attribuutdimensies en zijn voorkeursvoorspelling afstemt op specifieke sociale gemeenschapswaarden op een menselijk interpreteerbare manier. PrefPalette operationaliseert een cognitief wetenschappelijk principe, bekend als multi-attribuut besluitvorming, op twee manieren: (1) een schaalbare stap voor contrafeitelijke attribuutsynthese waarbij synthetische trainingsdata worden gegenereerd om individuele attribuuteffecten te isoleren (bijv. formaliteit, humor, culturele waarden), en (2) aandacht-gebaseerde voorkeursmodellering die leert hoe verschillende sociale gemeenschappen deze attributen dynamisch wegen. Deze aanpak gaat verder dan aggregatie van voorkeursmodellering om de diverse evaluatiekaders vast te leggen die menselijk oordeel sturen. Bij evaluatie op 45 sociale gemeenschappen van het online platform Reddit, presteerde PrefPalette 46,6% beter dan GPT-4o in gemiddelde voorspellingsnauwkeurigheid. Naast ruwe voorspellingsverbeteringen, bood PrefPalette ook inzicht in intuïtieve, gemeenschapsspecifieke profielen: wetenschappelijke gemeenschappen prioriteren uitgebreidheid en stimulatie, conflictgerichte gemeenschappen waarderen sarcasme en directheid, en ondersteuningsgerichte gemeenschappen benadrukken empathie. Door de attribuut-gemedieerde structuur van menselijk oordeel te modelleren, levert PrefPalette zowel superieure voorkeursmodellering als transparante, interpreteerbare inzichten, en vormt het een eerste stap naar meer betrouwbare, waarde-bewuste gepersonaliseerde toepassingen.

English

Personalizing AI systems requires understanding not just what users prefer, but the reasons that underlie those preferences - yet current preference models typically treat human judgment as a black box. We introduce PrefPalette, a framework that decomposes preferences into attribute dimensions and tailors its preference prediction to distinct social community values in a human-interpretable manner. PrefPalette operationalizes a cognitive science principle known as multi-attribute decision making in two ways: (1) a scalable counterfactual attribute synthesis step that involves generating synthetic training data to isolate for individual attribute effects (e.g., formality, humor, cultural values), and (2) attention-based preference modeling that learns how different social communities dynamically weight these attributes. This approach moves beyond aggregate preference modeling to capture the diverse evaluation frameworks that drive human judgment. When evaluated on 45 social communities from the online platform Reddit, PrefPalette outperforms GPT-4o by 46.6% in average prediction accuracy. Beyond raw predictive improvements, PrefPalette also shed light on intuitive, community-specific profiles: scholarly communities prioritize verbosity and stimulation, conflict-oriented communities value sarcasm and directness, and support-based communities emphasize empathy. By modeling the attribute-mediated structure of human judgment, PrefPalette delivers both superior preference modeling and transparent, interpretable insights, and serves as a first step toward more trustworthy, value-aware personalized applications.