VM

精選研究

← 所有研究

Lapa LLM

UNLP 2026 ACL Anthology 烏克蘭語 LLM

Data-Efficient Adaptation of Multilingual LLMs to Ukrainian

Yurii Paniv, Bohdan Didenko, Mykola Haltiuk, Vladyslav Humennyy, Andrian Kravchenko, Roman Kyslyi, Viktoriia Makovska, Artem Orlovskyi, Bohdan Ruban, Maksym-Yurii Rudko, Anastasiia Senyk, Nazarii Drushchak, Dmytro Chaplynskyi, Mariana Romanyshyn

我們如何打造適用於烏克蘭語的 Lapa LLM？

研究問題

研究動機

這篇論文介紹 Lapa LLM 的資料處理流程。Lapa LLM 是以 Gemma-3-12B 為基礎、公開釋出的烏克蘭語語言模型，旨在處理斷詞效率不佳、高品質資料不足及指令樣本稀缺等問題。專案為烏克蘭語 NLP 社群提供可重用的模型、訓練資料、品質分類器與程式碼。

Lapa LLM 以烏克蘭研究者 Valentyn Lapa 的姓氏命名，向他致敬。 專案背景 ↗

研究方法

視覺導讀

資料流程的三項改進

  1. 詞彙表調整

    改善烏克蘭語斷詞，不必從頭訓練整個模型。

  2. 品質篩選

    透過翻譯資料，跨語言移轉品質判別能力。

  3. 指令資料

    結合翻譯、任務轉換與針對性合成。

模型在地化概念流程。 摘要與第 3–10 節

研究貢獻

改良後的模型處理相同文字約需原模型三分之二的 token；論文報告原模型的用量約為其 1.5 倍。研究亦呈現良好的烏克蘭語基準與指令任務結果，並釋出模型、資料、分類器及程式碼。

摘要與第 3–10 節

原始論文與資源

收錄於 Proceedings of the Fifth Ukrainian Natural Language Processing Conference (UNLP 2026)，第 155–168 頁，烏克蘭利維夫。計算語言學協會。

ACL Anthology PDF
引用格式 
Paniv, Y., Didenko, B., Haltiuk, M., Humennyy, V., Kravchenko, A., Kyslyi, R., Makovska, V., Orlovskyi, A., Ruban, B., Rudko, M.-Y., Senyk, A., Drushchak, N., Chaplynskyi, D., & Romanyshyn, M. (2026). Data-Efficient Adaptation of Multilingual LLMs to Ukrainian. In Proceedings of the Fifth Ukrainian Natural Language Processing Conference (UNLP 2026), 155-168. Association for Computational Linguistics. https://aclanthology.org/2026.unlp-1.14/
BibTeX 
@inproceedings{paniv-etal-2026-data,
  title = {Data-Efficient Adaptation of Multilingual {LLM}s to {U}krainian},
  author = {Paniv, Yurii and Didenko, Bohdan and Haltiuk, Mykola and Humennyy, Vladyslav and Kravchenko, Andrian and Kyslyi, Roman and Makovska, Viktoriia and Orlovskyi, Artem and Ruban, Bohdan and Rudko, Maksym-Yurii and Senyk, Anastasiia and Drushchak, Nazarii and Chaplynskyi, Dmytro and Romanyshyn, Mariana},
  booktitle = {Proceedings of the Fifth {U}krainian Natural Language Processing Conference ({UNLP} 2026)},
  year = {2026},
  address = {Lviv, Ukraine},
  publisher = {Association for Computational Linguistics},
  pages = {155--168},
  url = {https://aclanthology.org/2026.unlp-1.14/}
}