turnipseason/paralingua_ru

Russian Paralinguistic Annotation Dataset

Датасет паралингвистической разметки спикеров из трёх русскоязычных корпусов: biggest_ru_book, DeepSpeech и Golos.

Что размечалось

Каждое аудио размечалось вручную по следующим характеристикам:

Поле	Описание	Пример значений
gender	Пол спикера	мужской, женский
age_group	Возрастная группа	молодой, взрослый, пожилой
voice_pitch	Высота голоса	низкий, средний, высокий
loudness	Громкость	тихий, нормальный, громкий
tempo	Темп речи	медленный, умеренный, быстрый
rhythm	Ритм	плавный, прерывистый
speech_clarity	Дикция и качество аудио	чёткий, бубнящий, плохое аудио (синтетика, шумы, несколько спикеров)
speech_manner	Манера речи	список тегов
emotional_tone	Эмоциональная окраска	список тегов
voice_characteristics	Особенности голоса	бархатный, хриплый и др.
intonation	Тип интонации	повествовательная, вопросительная и др.
engagement	Вовлечённость	активный, пассивный
confidence	Уверенность разметчика в разметке (1–3)	3

Структура

• Единица разметки -- фрагмент аудио (одно аудио может иметь несколько оценок от разных разметчиков)
• Один разметчик мог размечать несколько фрагментов одного спикера
• Поле annotator_name -- ID разметчика
• Поле speaker_id -- ID спикера из оригинального датасета (восстановить удалось только biggest_ru_book, всего 57 различных спикеров). Если ID неизвестен, ставилась отметка "-1"

Маппинг ID на пути к аудиофайлам

В файле paralingua_speaker_map.parquet -- маппинг путей к аудиофайлам на ID спикеров для всех трёх подвыборок (biggest_ru_book, deepspeech, golos). маппинг ID спикеров из изначального на их ID. Для biggest_ru_book ID восстанавливались по метаданным изначального датасета; для ~5к, пути которых не удалось намаппить, применялся поиск ближайшего кластера по эмбеддингам CAM++. Для deepspeech и golos ID получены кластеризацией эмбеддингов.

Колонка	Описание
filepath	Путь к аудиофайлу внутри датасета
speaker_id	ID спикера, соответствующий speaker_id в остальных файлах датасета

Промпты для TTS (biggest_ru_book)

Файл: paralingua_biggest_ru_prompts.parquet.
Для спикеров из biggest_ru_book и реплик, которые они озвучивали, создан датасет с инструкциями для дообучения TTS-моделей. Инструкции создавались по правилам, с помощью анализа профилей спикеров и лингвистического анализа озвученных реплик. Логика создания профилей спикеров описана ниже.

Основные колонки:

Колонка	Описание
filepath	Путь к аудиофайлу внутри датасета biggest_ru_book
speaker_id	ID спикера, соответствующий speaker_id в остальных файлах датасета
punctuated_text	Текст озвучиваемой реплики с восстановленной пунктуацией.
tts_prompt	Промпт для TTS, описывающий, каким голосом реплика была сказана.

Использование:

!pip install -q huggingface_hub

import os
from huggingface_hub import snapshot_download, hf_hub_download
import tarfile, glob
import pandas as pd, torchaudio
from pathlib import Path
from torch.utils.data import Dataset


AUDIO_ROOT = "/content/biggest_ru_book_balalaika"

snapshot_download(
    repo_id="lab260/biggest_ru_book_balalaika",
    repo_type="dataset",
    local_dir=AUDIO_ROOT,
    # загружаем только аудио
    ignore_patterns=["*.parquet"],  
)

for archive in glob.glob(f"{AUDIO_ROOT}/**/*.tar.gz", recursive=True):
    with tarfile.open(archive) as tar:
        tar.extractall(path=AUDIO_ROOT)
    os.remove(archive)

PROMPTS_PATH = hf_hub_download(
    repo_id="turnipseason/paralingua_ru",
    filename="paralingua_biggest_ru_prompts.parquet",
    repo_type="dataset",
)

class TTSPromptsDataset(Dataset):
    def __init__(self, prompts_parquet, audio_root):
        self.df = pd.read_parquet(prompts_parquet)
        self.audio_root = Path(audio_root)

    def __len__(self):
        return len(self.df)

    def __getitem__(self, idx):
        row = self.df.iloc[idx]
        waveform, sample_rate = torchaudio.load(self.audio_root / row["filepath"])
        return {
            "filepath": row["filepath"],
            "speaker_id": row["speaker_id"],
            "waveform": waveform,
            "sample_rate": sample_rate,
            **{k: row[k] for k in row.index if k not in ("filepath", "speaker_id")},
        }

df = TTSPromptsDataset(PROMPTS_PATH, AUDIO_ROOT)

Прослушать аудио и посмотреть промпты:

from IPython.display import display, Audio, HTML

def show_sample(ds, idx):
    sample = df[idx]
    
    waveform = sample["waveform"].numpy().squeeze()
    sr = sample["sample_rate"]
    
    display(HTML(f"""
        <b>filepath:</b> {sample['filepath']}<br>
        <b>speaker_id:</b> {sample['speaker_id']}<br>
        <b>asr_text:</b> {sample.get('asr_text', '—')}<br>
        <b>prompt:</b> {sample.get('tts_prompt', '—')}
    """))
    display(Audio(waveform, rate=sr))

show_sample(df, 0)

Профили спикеров

Файл: paralingua_speaker_profiles.parquet Для спикеров из всех трёх подвыборок (biggest_ru_book, deepspeech, golos) строился профиль присущих характеристик голоса (не изменяемых от аудио к аудио). Для biggest_ru_book профили строились на основе ручных аннотаций; для deepspeech и golos использовалась кластеризация эмбеддингов CAM++ с поиском ближайших похожих голосов из biggest_ru_book.

Логика агрегации

Single-label признаки (gender, voice_pitch, age_group):

Победившая метка -- та, за которую проголосовало большинство аннотаций. Уверенность (_conf) -- доля аннотаций за победившую метку среди всех непустых оценок по данному полю:

confidence = count(top_label) / count(all_non_null_votes)

Один разметчик, разметивший несколько аудио одного спикера, даёт несколько голосов. Признак помечается как uncertain = True если confidence < 0.7.

Multi-label признаки (voice_characteristics, manner_timbral):

Для каждого тега считается доля аннотаций, в которых он встретился (tag_support). Тег включается в итоговый список если tag_support ≥ 0.4. Для speech_manner учитываются только следующие теги манеры речи: монотонный, звонкий, глухой, сильный, слабый, дрожащий.

Полная описательная характеристика (speaker_description):

На основе остальных характеристик для каждого спикера генерировалось полное описание голоса с помощью Gemini UI. Модели был подан промпт для структурированной генерации таких описаний вместе с одним аудио от спикера. Затем описания вручную корректировались на основе дополнительных 4 случайным образом выбранных аудио.

Пример описания:

1. Базовые характеристики
    Пол: Мужской
    Возраст (диапазон): 35–55 лет
    Высота голоса: Низкая
    Чёткость дикции: Высокая

2. Тембр и подача
    Описание тембра: Богатый, резонирующий, бархатистый, «полный».
    Манера речи: Спокойная, авторитетная, убеждающая.
    Особенности: Широкий частотный диапазон, придающий голосу статусность и благородство.

3. Ассоциации
Генеральный директор корпорации, мудрый правитель.

4. Описание в одном предложении
Глубокий мужской голос с богатым бархатным резонансом и уверенной, спокойной дикцией.

Колонки

Колонка	Описание
speaker_id	ID спикера
gender_label	Пол
voice_pitch_label	Высота голоса
age_group_label	Возрастная группа
manner_timbral_tags	Теги манеры речи с поддержкой ≥ 0.4
voice_char_tags	Теги особенностей голоса с поддержкой ≥ 0.4
dataset_source	Источник данных (biggest_ru_book, deepspeech, golos)
n_annotations	Общее число аннотаций по спикеру (только biggest_ru_book)
gender_conf	Уверенность в метке пола (только biggest_ru_book)
gender_uncertain	True если уверенность ниже 0.7 (только biggest_ru_book)
gender_dist	Распределение голосов по значениям пола (только biggest_ru_book)
gender_n	Число непустых аннотаций по полю пола (только biggest_ru_book)
voice_pitch_conf	Уверенность в метке высоты голоса (только biggest_ru_book)
voice_pitch_uncertain	True если уверенность ниже 0.7 (только biggest_ru_book)
voice_pitch_dist	Распределение голосов по высоте (только biggest_ru_book)
voice_pitch_n	Число непустых аннотаций по высоте голоса (только biggest_ru_book)
age_group_conf	Уверенность в метке возрастной группы (только biggest_ru_book)
age_group_uncertain	True если уверенность ниже 0.7 (только biggest_ru_book)
age_group_dist	Распределение голосов по возрасту (только biggest_ru_book)
age_group_n	Число непустых аннотаций по возрасту (только biggest_ru_book)
voice_char_support	Доля аннотаций за каждый тег особенностей голоса (только biggest_ru_book)
voice_char_n	Число аннотаций по тегам особенностей голоса (только biggest_ru_book)
manner_timbral_support	Доля аннотаций за каждый тег манеры речи (только biggest_ru_book)
speaker_description	Полное описание голоса, сгенерированное и вручную скорректированное (только biggest_ru_book)
age_min	Минимальная оценка возраста (только biggest_ru_book)
age_max	Максимальная оценка возраста (только biggest_ru_book)
timbre_tags	Теги тембра голоса (только biggest_ru_book)
manner_tags	Теги манеры речи в свободной форме (только biggest_ru_book)
associations	Ассоциации с голосом (только biggest_ru_book)

Источники

Корпус	Описание
biggest_ru_book	Аудиокниги, русский язык
DeepSpeech ru	Подкасты, YouTube
Golos	Карудсорс