Ежедневные Исследовательские Статьи по ИИ

Ежедневно отобранные исследовательские статьи по ИИ с переводами

Законы масштабирования с словарным запасом: более крупные модели заслуживают более обширных словарей.
Scaling Laws with Vocabulary: Larger Models Deserve Larger Vocabularies

Chaofan Tao, Qian Liu, Longxu Dou, Niklas Muennighoff, Zhongwei Wan, Ping Luo, Min Lin, Ngai Wong•Jul 18, 2024•576

Масштабирование моделей на основе извлечения информации с хранилищем данных на триллион меток
Scaling Retrieval-Based Language Models with a Trillion-Token Datastore

Rulin Shao, Jacqueline He, Akari Asai, Weijia Shi, Tim Dettmers, Sewon Min, Luke Zettlemoyer, Pang Wei Koh•Jul 9, 2024•323

Форма движения: восстановление 4D из одного видео
Shape of Motion: 4D Reconstruction from a Single Video

Qianqian Wang, Vickie Ye, Hang Gao, Jake Austin, Zhengqi Li, Angjoo Kanazawa•Jul 18, 2024•202

Масштабирование моделей кода Granite до 128K контекста
Scaling Granite Code Models to 128K Context

Matt Stallone, Vaibhav Saxena, Leonid Karlinsky, Bridget McGinn, Tim Bula, Mayank Mishra, Adriana Meza Soria, Gaoyuan Zhang, Aditya Prasad, Yikang Shen, Saptha Surendran, Shanmukha Guttula, Hima Patel, Parameswaran Selvam, Xuan-Hong Dang, Yan Koyfman, Atin Sood, Rogerio Feris, Nirmit Desai, David D. Cox, Ruchir Puri, Rameswar Panda•Jul 18, 2024•203

Уличные пейзажи: Генерация уличного видео крупного масштаба с использованием авторегрессионной диффузии видео.
Streetscapes: Large-scale Consistent Street View Generation Using Autoregressive Video Diffusion

Boyang Deng, Richard Tucker, Zhengqi Li, Leonidas Guibas, Noah Snavely, Gordon Wetzstein•Jul 18, 2024•182

Понимание политик ссылок в прямой оптимизации предпочтений
Understanding Reference Policies in Direct Preference Optimization

Yixin Liu, Pengfei Liu, Arman Cohan•Jul 18, 2024•173

Измерение надежности мультимодальных крупных языковых моделей: комплексное исследование
Benchmarking Trustworthiness of Multimodal Large Language Models: A Comprehensive Study

Yichi Zhang, Yao Huang, Yitong Sun, Chang Liu, Zhe Zhao, Zhengwei Fang, Yifan Wang, Huanran Chen, Xiao Yang, Xingxing Wei, Hang Su, Yinpeng Dong, Jun Zhu•Jun 11, 2024•174

CLAY: Управляемая масштабная генеративная модель для создания высококачественных 3D-объектов
CLAY: A Controllable Large-scale Generative Model for Creating High-quality 3D Assets

Longwen Zhang, Ziyu Wang, Qixuan Zhang, Qiwei Qiu, Anqi Pang, Haoran Jiang, Wei Yang, Lan Xu, Jingyi Yu•May 30, 2024•122

Переполнение внимания: размытие ввода языковой модели во время длинного контекста Рекомендация отсутствующих элементов
Attention Overflow: Language Model Input Blur during Long-Context Missing Items Recommendation

Damien Sileo•Jul 18, 2024•103

BRIGHT: Реалистичный и сложный бенчмарк для поиска с высокой нагрузкой на рассуждения
BRIGHT: A Realistic and Challenging Benchmark for Reasoning-Intensive Retrieval

Hongjin Su, Howard Yen, Mengzhou Xia, Weijia Shi, Niklas Muennighoff, Han-yu Wang, Haisu Liu, Quan Shi, Zachary S. Siegel, Michael Tang, Ruoxi Sun, Jinsung Yoon, Sercan O. Arik, Danqi Chen, Tao Yu•Jul 16, 2024•92

CodeV: Повышение эффективности LLM для генерации Verilog с помощью многоуровневой суммаризации
CodeV: Empowering LLMs for Verilog Generation through Multi-Level Summarization

Yang Zhao, Di Huang, Chongxiao Li, Pengwei Jin, Ziyuan Nan, Tianyun Ma, Lei Qi, Yansong Pan, Zhenxing Zhang, Rui Zhang, Xishan Zhang, Zidong Du, Qi Guo, Xing Hu, Yunji Chen•Jul 15, 2024•93

Машинное обучение с улучшенным поиском: синтез и возможности
Retrieval-Enhanced Machine Learning: Synthesis and Opportunities

To Eun Kim, Alireza Salemi, Andrew Drozdov, Fernando Diaz, Hamed Zamani•Jul 17, 2024•62

Тестирование согласованности бенчмарков: Руководство по оценке бенчмарков LLM
Benchmark Agreement Testing Done Right: A Guide for LLM Benchmark Evaluation

Yotam Perlitz, Ariel Gera, Ofir Arviv, Asaf Yehudai, Elron Bandel, Eyal Shnarch, Michal Shmueli-Scheuer, Leshem Choshen•Jul 18, 2024•53

Сравнительное исследование автоматического кодирования медицинских писем с возможностью объяснения
A Comparative Study on Automatic Coding of Medical Letters with Explainability

Jamie Glen, Lifeng Han, Paul Rayson, Goran Nenadic•Jul 18, 2024•52

PM-LLM-Benchmark: Оценка больших языковых моделей на задачах по процессному майнингу.
PM-LLM-Benchmark: Evaluating Large Language Models on Process Mining Tasks

Alessandro Berti, Humam Kourani, Wil M. P. van der Aalst•Jul 18, 2024•22