進階Python

CuratorNVIDIA NeMo團隊的開源數據預處理工具

Curator是NVIDIA NeMo團隊開發的開源數據預處理工具包,專為大語言模型訓練設計。它提供可擴展、模塊化的流水線,涵蓋文本清洗、質量過濾和去重等核心任務,幫助開發者從原始語料中高效提取高質量數據。核心組件用Rust重寫,性能卓越,可無縫集成到現有數據管道。項目主要使用Python,採用Apache-2.0許可證。

1.6K 星標
290 分叉
230 問題
108 流覽
Python
Apache-2.0
收錄日期

專案概述

Curator是NVIDIA NeMo團隊開發的開源數據預處理工具包,專為大語言模型訓練設計。它提供可擴展、模塊化的流水線,涵蓋文本清洗、質量過濾和去重等核心任務,幫助開發者從原始語料中高效提取高質量數據。核心組件用Rust重寫,性能卓越,可無縫集成到現有數據管道。項目主要使用Python,採用Apache-2.0許可證。

項目簡介

Curator是NVIDIA NeMo團隊推出的開源數據預處理工具包,專門用於大語言模型(LLM)訓練的數據準備。它旨在幫助開發者從海量原始語料中提取高質量數據,提升訓練效果。

核心功能

  • 文本清洗:去除噪聲和無關內容。
  • 質量過濾:基於規則或模型篩選低質量樣本。
  • 去重:消除重複數據,減少冗餘。

技術棧

項目主語言為Python,但核心組件使用Rust重寫,以提供出色的性能。這種混合設計讓Curator既能保持Python的易用性,又能獲得Rust的高效處理能力。

許可證

Curator採用Apache-2.0許可證,允許自由使用和修改。

如何上手

根據README摘要,Curator設計為模塊化流水線,可無縫集成到現有數據處理流程中。具體安裝和使用方法請參考項目官方文檔。

資料預處理LLM訓練資料整理NVIDIA開源工具Python工具包可擴充套件資料管道大語言模型資料清洗MinHash去重NeMo生態

項目評分

0.0 (0 評價)

分享

常見問題

Curator: NVIDIA NeMo團隊的開源數據預處理工具 是什麼?

Curator是NVIDIA NeMo團隊開發的開源數據預處理工具包,專為大語言模型訓練設計。它提供可擴展、模塊化的流水線,涵蓋文本清洗、質量過濾和去重等核心任務,幫助開發者從原始語料中高效提取高質量數據。核心組件用Rust重寫,性能卓越,可無縫集成到現有數據管道。項目主要使用Python,採用Apache-2.0許可證。

Curator: NVIDIA NeMo團隊的開源數據預處理工具 用什麼語言開發?

Curator: NVIDIA NeMo團隊的開源數據預處理工具 主要使用 Python 開發。

Curator: NVIDIA NeMo團隊的開源數據預處理工具 使用什麼開源授權?

Curator: NVIDIA NeMo團隊的開源數據預處理工具 基於 Apache-2.0 授權開源。

相關專案

暫無結果

探索更多

評論

評論

0
0/500 字元

暫無評論

成為第一個評論的人

開源專案

探索、學習和貢獻開源 AI 專案,推動人工智慧技術的發展

查看全部