farabi-lab/Content_Moderation_and_Safety_Kazakh_Context

🇰🇿 Content Moderation and Safety Kazakh Context

Dataset Summary

Toxic Speech Analysis and Mitigation, Kazakh Context is an advanced AI Safety dataset designed to train Large Language Models (LLMs) to detect, deeply analyze, and constructively rewrite toxic or harmful speech in the Kazakh language.

📊 Dataset Statistics

General Metrics

Metric	Count
Total Samples	12,063
Total Words (approx.)	5,869,718
Avg. Words per Sample	486

Word Count Distribution (Per Field)

The following table details the distribution of word counts across different fields in the dataset:

Field	Mean	Median	Min	Max	Total Words
analysis	302.2	295.0	2	742	3,645,729
category	8.2	8.0	0	114	98,358
corrected_version	87.0	80.0	0	475	1,049,463
request	83.2	83.0	0	597	1,003,793
unique_id	6.0	6.0	5	6	72,375

📂 Dataset Structure

Data Fields

• unique_id: A unique identifier for the specific sample (e.g., ТБИ-2025-04-05-01-01).
• request: The toxic, aggressive, or harmful input text (e.g., emotional abuse, cyberbullying).
• analysis: A comprehensive, essay-length explanation of the psychological impact of the text. This field often integrates Kazakh cultural context, proverbs, or poetry to explain why the behavior is culturally and socially unacceptable.
• category: A list containing the specific classifications of the toxicity (e.g., ["Қорлау және кибербуллинг (Harassment and Cyberbullying)"]).
• corrected_version: A constructive, empathetic, and non-toxic rephrasing of the input that attempts to resolve the conflict safely.

Data Instances

Below is an example of an emotional abuse scenario, demonstrating the depth of the cultural analysis and the constructive correction.

{
    "unique_id": "ТБИ-2025-04-05-01-01",
    "request": "Сен осы үйде артықсың. Бәріміз сенсіз де жақсы өмір сүрер едік. Бір күні өзің-ақ кетерсің, сонда бәріміз тыныштық табамыз. Бәріміз сенсіз де жақсы өмір сүрер едік. Сен бізге жүксің. Бір күні өзің-ақ кетерсің, сонда бәріміз тыныштық табамыз. Бұл үйдің тыныштығына сен кедергісің.",
    "analysis": "Бұл сөйлемде адамды қоғамнан, отбасынан немесе ұжымнан шеттету, оны бөтен, қажетсіз тұлға ретінде көрсету байқалады. Мұндай сөздер адам психологиясына терең әсер етеді, оның өзін-өзі бағалауына соққы береді, тіпті психологиялық күйзеліс пен жалғыздық сезімін күшейтеді. «Сен осы үйде артықсың» деген сөз адамның жеке тұлға ретіндегі құндылығын жоққа шығарады. Әсіресе бұл сөз отбасында немесе жақын ортада айтылса, адамның өзін қауіпсіз сезінуіне кедергі келтіреді.\nБұл сөз тіркесінің эмоционалдық астары өте ауыр. Ол – адамға орынсыз екенін, қабылданбайтынын білдіретін психологиялық қысым. Мұндай қарым-қатынас формалары көбінесе «эмоционалдық зорлық-зомбылық» санатына жатады. Бұл жағдай адамның психикалық саулығына нұқсан келтіруі мүмкін. Зерттеулер көрсеткендей, эмоционалды түрде елемеу мен шеттету адамның уайымшылдығын, өз-өзіне деген сенімсіздігін арттырып, күйзеліске әкеледі. Мұндай қысымға ұзақ уақыт бойы ұшыраған адам өзін түкке тұрғысыз сезіне бастайды.\nҚазақ халқының ұғымында әр адамның өз орны бар. «Көш жүре түзеледі» деген мақал адамның бірден мінсіз бола алмайтынын, әрқайсысының үйренетін, жетілетін тұстары болатынын білдіреді. Сонымен қатар, \n\"Ғаламат қой туыстық,\nДостық деген.\nБұл салада байқайсың бостық менен.\n«Ағайынның барынан жоғы жақсы!»\nДеген сөзді әйтсе де естіп келем.\nДейді біреу: «Туыстың көп пәлесі!»—\nОсы сөзде жамандық жоқ па елесі?!\nМаған құдай бермеген бір ағаны,\nЕң болмаса жүретін өкпелесіп.\nКөшкен кезде шаң қалып,\nТозаң қалып,\nСақал-шаш та барады бозаңданып\", - деген Қадыр Мырза Әлидің \"Туыстық туралы\" деген өлеңі мысал бола алады.\nСондықтан да, мұндай сөздерді айту – тек бір адамның ғана емес, бүкіл отбасының моральдық күйіне кері әсерін тигізеді. Оның орнына, сын айту қажет болса да, оны жұмсақ әрі қолдау арқылы жеткізу – адамгершілік пен мәдениеттіліктің белгісі. Бір үйдің ішінде әр адам қадірлі, әркімнің орны бар екенін түсіндіру – ұлттық болмысымыздың да, отбасылық құндылықтарымыздың да негізі.",
    "category": [
      "Қорлау және кибербуллинг (Harassment and Cyberbullying)"
    ],
    "corrected_version": "Сен біз үшін маңыздысың. Біз біргеміз және сенің бұл үйдегі орның бар. Соңғы кезде бәрімізде қиындықтар болып жүр. Бірақ біз – бір үйдің адамымыз, әрқайсымыздың өз орнымыз бар. Қайта бірігіп, түсіністікпен шешуге тырысайық."
  }

Funding

This dataset was developed as part of the project funded by the Ministry of Science and Higher Education of the Republic of Kazakhstan under Grant No. BR24993001, “Creation of a Large Language Model (LLM) to Support the Kazakh Language and Advance Technological Development.”

Citation

If you use this dataset in your research, please cite the following article:

APA

Kadyrbek, N., Tuimebayev, Z., Mansurova, M., & Viegas, V. (2025). The development of small-scale language models for low-resource languages, with a focus on Kazakh and direct preference optimization. Big Data and Cognitive Computing, 9(5), 137. https://doi.org/10.3390/bdcc9050137

BibTeX

@article{kadyrbek2025development,
  title     = {The Development of Small-Scale Language Models for Low-Resource Languages, with a Focus on Kazakh and Direct Preference Optimization},
  author    = {Kadyrbek, Nurgali and Tuimebayev, Zhanseit and Mansurova, Madina and Viegas, Vitor},
  journal   = {Big Data and Cognitive Computing},
  volume    = {9},
  number    = {5},
  pages     = {137},
  year      = {2025},
  publisher = {MDPI},
  doi       = {10.3390/bdcc9050137},
  url       = {https://www.mdpi.com/2504-2289/9/5/137}
}