--- language: - tr task_categories: - text-generation pretty_name: NedoTranslator Turkish Safety SFT size_categories: - 100K **Önemli:** Bu repo mixed-license veridir. Tek bir permissive lisans tüm kayıtlara uygulanmaz. Her kayıtta `source_license` ve `legal_status` alanlarını kontrol edin. `commercial_ok` split teknik bir filtre olup hukuki görüş değildir. ## Dosyalar - `data/all_available_tr_sft.jsonl` — ana ALL AVAILABLE corpus - `data/all_available_tr_sft_commercial_ok.jsonl` — `legal_status=OK` subset - `metadata/all_available_tr_sft_manifest.json` — final manifest - `TECHNICAL_REPORT.md` — ayrıntılı pipeline, source, judge, risk, lisans ve limitation raporu ## ALL vs judge Judge bu sürümde zorunlu gate değildir. Her kayıtta: - `judge_status = JUDGED | UNJUDGED` - varsa `judge_quality_score` - varsa `judge_quality_tier` - varsa `judge_over_refusal` - varsa `judge_unsafe_leakage` - birden fazla değerlendirme varsa `judge_observations` bulunur. Judge coverage: **%12.84**. Judge tier sayıları: - HIGH: 31,854 - MEDIUM: 384 - LOW: 493 - REJECT: 252 - UNJUDGED: 223,909 ALL corpus LOW/REJECT sonuçlarını da silmez. Downstream kullanıcı kendi filtresini seçmelidir. ## Decision dağılımı - ALLOW: **104,830** - SAFE_LIMITED: **22,088** - REFUSE: **86,459** - UNKNOWN: **43,515** ## Hızlı kullanım ```python from datasets import load_dataset ds = load_dataset( "nmsofficial/NedoTranslator-Turkish-Safety-SFT", data_files="data/all_available_tr_sft.jsonl", split="train", ) print(ds[0]["messages"]) ``` Sadece judge-passed örnekler: ```python clean = ds.filter( lambda x: x["judge_status"] == "JUDGED" and x["judge_quality_tier"] in {"HIGH", "MEDIUM"} and not x["judge_over_refusal"] and not x["judge_unsafe_leakage"] ) ``` Commercial-focused subset: ```python commercial = load_dataset( "nmsofficial/NedoTranslator-Turkish-Safety-SFT", data_files="data/all_available_tr_sft_commercial_ok.jsonl", split="train", ) ``` ## Kaynaklar Final artifact içinde başlıca kaynaklar: - ytu-ce-cosmos/guardrail-tr - limeXx/asena_safetalk_dataset_tr - MelikeErdogan/bpi-guard-dataset - OnerAYTAS/Turkish_prompt_injection_jailbreak_dataset - AltaySec/altayduel-transcripts - AltaySec/turkish-llm-injection - allenai/wildjailbreak - PKU-Alignment/PKU-SafeRLHF / SafeRLHF-QA - nvidia/Aegis-AI-Content-Safety-Dataset-2.0 - allenai/wildguardmix - Babelscape/ALERT - PKU-Alignment/BeaverTails - Anthropic/hh-rlhf - lmsys/toxic-chat - diğer düşük hacimli alignment kaynakları İngilizce source'lardan gelen kayıtlar doğrudan İngilizce SFT olarak eklenmemiş; seçili örnekler Türkçeye lokalize edilmiştir. ## Contamination ve dedup - Exact aynı message sequence duplicate'ları merge edilmiştir. - Aynı promptun farklı response varyantları korunur. - Final unique prompt sayısı: **232,095** - Final unique message/prompt-response sayısı: **256,892** - v3 holdout exact content overlap: **0** - v3 holdout exact prompt overlap: **0** **SORRY-Bench notu:** SORRY-Bench 202503 snapshotı çalışma alanına indirilmiştir ancak mevcut v3 holdout'a tam canonical entegrasyonu deadline freeze öncesi tamamlanmamıştır. Dolayısıyla 0/0 contamination sonucu mevcut v3 holdout için geçerlidir. ## Lisans Corpus mixed-license'dır. Dağılım yaklaşık: - Apache-2.0: 189,244 - MIT: 41,976 - CC-BY-NC-SA-4.0: 9,293 - CC-BY-4.0: 2,405 - CC-BY-NC-4.0: 1,642 - ODC-BY: 1,296 - unknown: 11,036 Kayıt bazlı lisans/provenance alanlarını kullanın. ## Ayrıntılı teknik rapor Pipeline, generation, adaptation, judge sistemi, risk dağılımı, attack-style coverage, veri şeması, dedup ve bilinen sınırlamalar için **TECHNICAL_REPORT.md** dosyasına bakın.