Articles de Recherche en IA Quotidiens

Articles de recherche en IA sélectionnés quotidiennement avec traductions

Meteor : Parcours basé sur Mamba des justifications pour les grands modèles de langage et de vision
Meteor: Mamba-based Traversal of Rationale for Large Language and Vision Models

Byung-Kwan Lee, Chae Won Kim, Beomchan Park, Yong Man Ro•May 24, 2024•566

ConvLLaVA : Architectures hiérarchiques comme encodeur visuel pour les grands modèles multimodaux
ConvLLaVA: Hierarchical Backbones as Visual Encoder for Large Multimodal Models

Chunjiang Ge, Sijie Cheng, Ziming Wang, Jiale Yuan, Yuan Gao, Jun Song, Shiji Song, Gao Huang, Bo Zheng•May 24, 2024•477

Les Transformers Grokkés sont des Raisonneurs Implicites : Un Voyage Mécaniste aux Confins de la Généralisation
Grokked Transformers are Implicit Reasoners: A Mechanistic Journey to the Edge of Generalization

Boshi Wang, Xiang Yue, Yu Su, Huan Sun•May 23, 2024•421

Aya 23 : Publications de modèles open weight pour accélérer les avancées multilingues
Aya 23: Open Weight Releases to Further Multilingual Progress

Viraat Aryabumi, John Dang, Dwarak Talupuru, Saurabh Dash, David Cairuz, Hangyu Lin, Bharat Venkitesh, Madeline Smith, Kelly Marchisio, Sebastian Ruder, Acyr Locatelli, Julia Kreutzer, Nick Frosst, Phil Blunsom, Marzieh Fadaee, Ahmet Üstün, Sara Hooker•May 23, 2024•321

Empiler vos Transformers : Un examen approfondi de la croissance des modèles pour un pré-entraînement efficace des LLM
Stacking Your Transformers: A Closer Look at Model Growth for Efficient LLM Pre-Training

Wenyu Du, Tongxu Luo, Zihan Qiu, Zeyu Huang, Yikang Shen, Reynold Cheng, Yike Guo, Jie Fu•May 24, 2024•301

Le Chemin Moins Planifié
The Road Less Scheduled

Aaron Defazio, Xingyu, Yang, Harsh Mehta, Konstantin Mishchenko, Ahmed Khaled, Ashok Cutkosky•May 24, 2024•287

AutoCoder : Amélioration des modèles de langage de grande taille pour le code avec AIEV-Instruct
AutoCoder: Enhancing Code Large Language Model with AIEV-Instruct

Bin Lei, Yuchen Li, Qiuwu Chen•May 23, 2024•289

CraftsMan : Génération de maillages haute fidélité avec création native 3D et raffinement géométrique interactif
CraftsMan: High-fidelity Mesh Generation with 3D Native Generation and Interactive Geometry Refiner

Weiyu Li, Jiarui Liu, Rui Chen, Yixun Liang, Xuelin Chen, Ping Tan, Xiaoxiao Long•May 23, 2024•202

Curration Automatique des Données pour l'Apprentissage Auto-Supervisé : Une Approche Basée sur le Clustering
Automatic Data Curation for Self-Supervised Learning: A Clustering-Based Approach

Huy V. Vo, Vasil Khalidov, Timothée Darcet, Théo Moutakanni, Nikita Smetanin, Marc Szafraniec, Hugo Touvron, Camille Couprie, Maxime Oquab, Armand Joulin, Hervé Jégou, Patrick Labatut, Piotr Bojanowski•May 24, 2024•180

iVideoGPT : Les modèles VideoGPT interactifs sont des modèles du monde évolutifs
iVideoGPT: Interactive VideoGPTs are Scalable World Models

Jialong Wu, Shaofeng Yin, Ningya Feng, Xu He, Dong Li, Jianye Hao, Mingsheng Long•May 24, 2024•174

Denoising LM : Repousser les limites des modèles de correction d'erreurs pour la reconnaissance vocale
Denoising LM: Pushing the Limits of Error Correction Models for Speech Recognition

Zijin Gu, Tatiana Likhomanenko, He Bai, Erik McDermott, Ronan Collobert, Navdeep Jaitly•May 24, 2024•170

Mélange de données optimisé : une loi d'échelle bivariée pour le pré-entraînement des modèles de langage
Data Mixing Made Efficient: A Bivariate Scaling Law for Language Model Pretraining

Ce Ge, Zhijian Ma, Daoyuan Chen, Yaliang Li, Bolin Ding•May 23, 2024•160

HDR-GS : Synthèse efficace de nouvelles vues en haute dynamique avec une accélération 1000x via le splatting gaussien
HDR-GS: Efficient High Dynamic Range Novel View Synthesis at 1000x Speed via Gaussian Splatting

Yuanhao Cai, Zihao Xiao, Yixun Liang, Yulun Zhang, Xiaokang Yang, Yaoyao Liu, Alan Yuille•May 24, 2024•80