VM

Вибрані дослідження

← Усі дослідження

Пояснення роботи

Доповідь на воркшопіМашинне забування

Between Suppression and Collapse: Evaluating Narrative Unlearning with LENS

Viktoriia Makovska, George Fletcher

Коли модель перестає відтворювати наратив, вона забула його чи перестала відповідати змістовно?

Питання

Навіщо ця робота

LENS досліджує відтворення наративів після машинного забування. У роботі оцінено чотири багатомовні моделі, навчені виконувати інструкції. Для перевірки використано дві дезінформаційні рамки та різні способи запитати про той самий наратив.

Підхід

Візуальне пояснення

Один наратив, чотири контексти запиту

  1. L0 · Прямий

    Прямо попросити цільове пояснення.

  2. L1 · Приписаний

    Запитати про пояснення, приписане іншим.

  3. L2 · Порівняльний

    Зіставити цільову рамку з альтернативним поясненням.

  4. L3 · Абстрактний

    Приховати імена та назви учасників наративу, зберігаючи причинну структуру.

Схема LENS: L0 дає приклади для забування; L1–L2 перевіряють перенесення ефекту; L3 досліджує абстракцію та відновлення назв та імен. Це рівні контексту запитів, а не числові оцінки складності. Розділи 4, 6–8

Навчальний калькулятор · 100 відповідей

Дослідити оцінку пригнічення

Спробуйте змінити кількості. Це уявні відповіді, а не результати експерименту. Оцінка винагороджує зменшення відтворення й штрафує зіпсовані відповіді.

Відносне пригнічення 75%

Частка зіпсованих відповідей 10%

Оцінка SCE 0,608

SCE = пригнічення × (1 − деградація)²

Кількості обмежені 100 відповідями. SCE допомагає обирати контрольну точку, а не доводить повне забування.

Внесок роботи

Відібрані контрольні точки зменшували відтворення наративів поза прямими навчальними запитами, зберігаючи змістовні відповіді. Вдала точка залежала від моделі, мови, наративу й методу. У відповідях на абстрактні запити моделі все ще могли називати пов’язаних із наративом реальних осіб, держави чи організації.

Розділи 4, 6–8

Оригінальна робота й ресурси

Представлено на WIPE-OUT 2 — другому воркшопі з машинного забування та захисту приватності, ECML PKDD 2026 · 7 вересня 2026 · Неаполь, Італія.

Препринт: arXiv:2607.22657 · оновлено 31 липня 2026.

Слайди (PDF, англійською) Програма воркшопу arXiv PDF
Бібліографічний опис
Makovska, V., & Fletcher, G. (2026). Between Suppression and Collapse: Evaluating Narrative Unlearning with LENS. arXiv:2607.22657. https://arxiv.org/abs/2607.22657
BibTeX
@misc{makovska2026lens,
  title = {Between Suppression and Collapse: Evaluating Narrative Unlearning with LENS},
  author = {Makovska, Viktoriia and Fletcher, George},
  year = {2026},
  eprint = {2607.22657},
  archivePrefix = {arXiv},
  primaryClass = {cs.CL},
  url = {https://arxiv.org/abs/2607.22657}
}