gg-friggin-ez icon

gg-friggin-ez

gg-friggin-ez 是 Node.js 套件,可偵測多語言、轉寫、混合語言及混淆的使用者文字中的髒話與毒性內容,適用聊天、遊戲通訊、留言及其他使用者生成內容,支援快速布林檢查或詳細審核結果。

gg-friggin-ez

適用於 Node.js 的多語言文字審核

gg-friggin-ez 是一個開源 Node.js 套件,用於篩選使用者生成文字中的髒話、毒性、敵意、騷擾及人身攻擊。它專為可能避開簡單關鍵字清單的內容而設計,包括 leetspeak、插入空格、重複字元、羅馬化語言、混合語言文字及混合文字系統。

此套件使用 System 1 決策模型,而非產生對話式回應。其預設的 TypeSafe AI Jev 設定會回傳髒話及毒性標記、嚴重程度、偵測到的語言、混淆類型、建議動作及測得的請求延遲等審核訊號。開發者可以使用布林輔助函式進行快速檢查,或在需要完整結果時呼叫 screen()。

功能

結構化審核結果

回傳分開的髒話與毒性判定,嚴重程度等級從 NONE 到 SEVERE,並提供 0.0 到 2.0 的連續嚴重程度分數。

識別規避行為的偵測

偵測常見的規避模式,例如 leet 語、分隔字元、重複字元、符號替換、羅馬化、混合語言及混合文字系統。

多語言及轉寫文字

支援英文及印度語言內容,包括孟加拉文、馬拉雅拉姆文、印地文、泰米爾文、泰盧固文及卡納達文,並涵蓋 README 所述的轉寫輸入。

簡易 Node.js API

提供 isProfane() 和 isToxic() 便捷函式,以及可針對單一請求回傳多項審核訊號的 screen()。

可插拔的審核

使用 TypeSafe AI Jev 作為預設的 System 1 模型,並可透過 screener 設定使用不同的分類器或自訂結構。

以處置為導向的輸出

可將內容分類為 ALLOW、SUSPICIOUS_REVIEW、AUTO_CENSOR 或 AUTO_BAN,在支援自動處理的同時,為模稜兩可的案例提供人工審查流程。

使用情境

  • 即時聊天與社群訊息

    在發布訊息前執行審核檢查,利用動作和嚴重程度欄位來允許、標記待審查、審查或封鎖內容。

  • 遊戲聊天審核

    篩選玩家訊息及遊戲內文字通訊,適用於需要快速回應及混淆偵測的情境。

  • 社群、評論與市集內容

    評估可能包含轉寫或混合語言區域語言辱罵內容的留言、評論或市集對話。

  • 審核作業與審查佇列

    使用詳細的語言及混淆欄位支援信任與安全佇列,並調查使用者如何規避篩選器。

  • 自訂審核流程

    透過提供自訂結構或在 screener 設定中替換預設分類器,建立特定領域的審核工作流程。

Pros and Cons

Pros

  • 針對靜態關鍵字篩選器可能遺漏的混淆、羅馬化、轉寫、混合語言及混合文字系統內容進行偵測。
  • 同時提供快速布林檢查,以及包含嚴重程度、語言、混淆方式、動作及延遲欄位的詳細審核回應。
  • 除了自動允許、審查及封鎖結果外,也支援以審查為導向的動作。
  • 支援 Node.js 18+,並提供 ESM、CommonJS 及內含 TypeScript 型別宣告的版本。
  • 允許開發者替換預設的 System 1 分類器,並定義自訂審核結構。

Cons

  • 此套件依賴推論請求及 OpenRouter API 金鑰,因此延遲和運作成本可能會隨設定的模型及請求條件而異。
  • 專案文件並未確立所有內容類型的完整語言涵蓋範圍、準確率,或誤判及漏判表現。
  • 分別呼叫 isProfane() 和 isToxic() 會觸發個別的推論請求;需要多項訊號時,使用 screen() 更合適。

FAQ

如何安裝及設定 gg-friggin-ez?

使用 npm、Yarn、pnpm 或 Bun 安裝套件。此套件需要 Node.js 18 或更新版本,或 Bun,並提供 ESM、CommonJS 及內含 TypeScript 型別的建置版本。API 請求需要 OpenRouter API 金鑰,可透過環境變數提供,或傳入 createScreener()。

我應該使用哪個 API 來取得審核結果?

個別布林檢查請使用 isProfane() 或 isToxic()。如果需要完整的審核結果,請使用 screen(),其中包含嚴重程度、語言、偵測到的混淆方式、建議動作及測得的延遲。

可以使用不同模型或自訂審核結構嗎?

預設設定使用 TypeSafe AI Jev,而套件支援透過 system1 選項提供其他 System 1 分類器,也支援自訂審核結構。

它會審核哪些類型的多語言及混淆文字?

README 說明支援英文及印度語言,包括孟加拉文、馬拉雅拉姆文、印地文、泰米爾文、泰盧固文及卡納達文。此套件旨在處理羅馬化或轉寫文字、混合語言、leet 語、字元間插入空格、重複字元及混合文字系統。

關於延遲和請求用量,我需要知道什麼?

專案說明使用預設 Jev 設定時,典型的端到端延遲約為 50–500 毫秒,但實際延遲會回傳在 screen() 結果中,並取決於推論請求及部署條件。README 也指出,每次呼叫 isProfane() 或 isToxic() 都會觸發一次推論請求。

Quick Facts

分類
開發者工具 · AI 內容審核
平台
Node.js 18+ 或 Bun
套件格式
ESM 和 CommonJS,內含 TypeScript 型別
預設模型
TypeSafe AI Jev
主要工作流程
即時篩選聊天、留言、評論及其他使用者生成文字
來源
github.com/ItisShikhar/gg-friggin-ez