ต้นแบบ · รุ่นทดลอง: มีทุก server ในทะเบียนทางการ อัปเดตทุก 30 นาที เข้าสู่ระบบด้วย Google เพื่อเขียนรีวิวได้แล้วต้นแบบ · อัปเดตทุก 30 นาที
PopNx MCPที่รวม MCP สำหรับคนใช้ AI · วิธีติดตั้งภาษาไทยทุกตัว

ใช้ทำอะไรได้

ยังไม่มีคำอธิบายภาษาไทย ดูข้อเท็จจริงด้านล่าง หรือเปิดคำอธิบายต้นฉบับจากผู้ทำ

  • ต่อแบบ ไฟล์คำสั่งให้ AI อ่าน
  • บัญชีหรือคีย์ ไม่พบคีย์ใน README และ SKILL.md
  • หมวด งานอัตโนมัติและเอเจนต์
คำอธิบายต้นฉบับจากผู้ทำ (อังกฤษ)
CUDA Agent: Large-Scale Agentic RL for High-Performance CUDA Kernel Generation
สำหรับผู้ทำ: ติดป้ายใน README

ถ้าคุณเป็นผู้ทำตัวนี้ คัดลอกโค้ดนี้ไปวางใน README ได้เลย ป้ายลิงก์กลับมาที่หน้านี้

[![แนะนำบน PopNx MCP](https://mcp.popnx.com/badge/skill/bytedtsinghua-sia-cuda-agent.svg?lang=th)](https://mcp.popnx.com/th/skills/bytedtsinghua-sia-cuda-agent)

Skill ที่ทำงานคล้ายกัน

หมวดงานเดียวกัน เรียงแบบเดียวกับหน้ารายการ Skill

เทียบกับตัวที่คล้ายกัน
ตัวนี้
CUDA-Agent
skillsnacosanatomyleon
ผู้ทำBytedTsinghua-SIAvercel-labsalibabawheresryan22leon-ai
จำนวน Skill11111
ดาว GitHub1,35840,01433,53328,16217,691
แก้โค้ดล่าสุด8 ก.ค. 256917 พ.ย. 256919 พ.ย. 256919 ต.ค. 256913 พ.ย. 2569
สัญญาอนุญาต–MITApache-2.0MITMIT

ชุดคำสั่ง (Skill) 1 ชุดจาก BytedTsinghua-SIA ให้ AI อ่านแล้วทำงานตามวิธีนี้ · ไม่ใช่ MCP server

Skill ต่างจาก MCP ยังไง

MCP = มือ

ต่อ AI เข้ากับบริการหรือข้อมูลข้างนอก เช่น อ่าน Notion หรือสร้างใบแจ้งหนี้ ต้องมีโปรแกรมหรือ server ทำงานอยู่

Skill = คู่มือ

ไฟล์ข้อความที่สอน AI ว่างานนี้ทำยังไง ไม่ต่อบริการใด

บางตัวคล้ายกัน: Skill บางตัวมีสคริปต์เรียกเครื่องมือ และ MCP บางตัวส่งแค่ความรู้ ให้ดูที่งานที่อยากทำเป็นหลัก

ใช้กับแอปไหน

ผู้ทำไม่ได้ระบุ · Skill แบบ SKILL.md ใช้ได้กับแอปที่รองรับ Agent Skills เช่น Claude Code, Codex และ Cursor

ติดตั้ง

ปลอดภัยไหม

  • ใครทำ

    บัญชี GitHub BytedTsinghua-SIA (องค์กร) เปิดมา 1 ปี

  • คนใช้และการดูแล

    ★ 1,358 ดาว · แก้โค้ดล่าสุด 8 ก.ค. 2569

  • มีสคริปต์ไหม

    มีสคริปต์ 7 ไฟล์ที่รันบนเครื่องได้: model.py, model_new.py, utils/__init__.py, utils/compile.py และอีก 3 ไฟล์

  • ใช้อินเทอร์เน็ตไหม

    ไม่พบคำสั่งเรียกอินเทอร์เน็ตในสคริปต์

  • แก้ค่าตั้งทั้งเครื่องไหม

    ไม่พบ hook หรือการเขียนค่าตั้งของเครื่อง

ตรวจอัตโนมัติจากไฟล์ใน repo ที่ commit 473025c (อ่านไฟล์อย่างเดียว ไม่ได้รัน) ไม่ใช่การรับรองความปลอดภัย อ่านแล้วตัดสินใจเอง

ขั้นแรก: คุณใช้ AI ตัวไหน

เลือกแอปที่ใช้ แล้วหน้านี้จะแสดงเฉพาะวิธีติดตั้งของแอปนั้น

ทางที่ 1อัปโหลดเข้า claude.ai (เว็บและแอป)

  1. ดาวน์โหลดจาก GitHub

    Skill นี้ไม่ระบุใบอนุญาต เราจึงไม่แจกไฟล์ ZIP จากเว็บเรา ดาวน์โหลดจาก GitHub แล้วจัดโฟลเดอร์เอง หรือใช้ทาง "ให้ AI ติดตั้งให้" ด้านบนซึ่งง่ายกว่า

    ดาวน์โหลดจาก GitHub (ทั้ง repo) ↗

    แตกไฟล์ แล้วบีบอัดเฉพาะโฟลเดอร์ agent_workdir ใหม่ ZIP ต้องมีโฟลเดอร์ agent_workdir ที่มี SKILL.md อยู่ชั้นบนสุด ห้ามวางไฟล์หลวมไว้ชั้นบนสุด

  2. เปิดหน้า Skills ใน claude.ai แล้วอัปโหลด

    +Create skillUpload a skillเลือกไฟล์ agent_workdir.zip

    เปิด claude.ai/customize/skills ↗

  3. ไม่เห็นปุ่ม Upload: เปิดสิทธิ์สร้างไฟล์ก่อน

    SettingsCapabilitiesCode execution and file creation

    ต้องเปิด Code execution and file creation ก่อน (เมนูรุ่นใหม่เรียก Create and edit files) · แผนส่วนตัวที่ Settings → Capabilities · Team/Enterprise ผู้ดูแลเปิดที่ Organization settings → Plugins & skills · ใช้ได้ทุกแผนรวมแผนฟรี

อัปโหลดครั้งเดียว ใช้ได้ทั้ง claude.ai และ Claude Desktop รวมถึง Claude Code รุ่นใหม่ที่ล็อกอินด้วยบัญชี Claude (ล็อกอินด้วยคีย์ API ไม่ซิงก์)

Cowork และ session บนคลาวด์ใช้ Skill ที่เปิดในบัญชี claude.ai ไม่อ่าน ~/.claude/skills ในเครื่อง (งานตั้งเวลาของ Claude Desktop ที่รันในเครื่องยังอ่านได้)

ตรวจกับเอกสารทางการล่าสุด 12 พ.ย. 2569 · แหล่ง: support.claude.com, support.claude.com, code.claude.com

ทางที่ 1ให้ Claude Code ติดตั้งให้

คัดลอกประโยคนี้ไปวางในแชตของ Claude Code

ติดตั้งไว้ที่ไหน
ช่วยติดตั้ง Skill ชื่อ agent_workdir จาก https://github.com/bytedtsinghua-sia/cuda-agent โฟลเดอร์ agent_workdir (commit 473025c) ให้ใช้ได้ทุกโปรเจกต์ของฉัน โดยวางไว้ที่ ~/.claude/skills/agent_workdir อ่านไฟล์ทั้งหมดให้ฉันดูก่อนว่ามีสคริปต์หรือแก้ค่าตั้งเครื่องไหม แล้วบอก path เต็มที่จะติดตั้ง รอฉันตกลงก่อน
ช่วยติดตั้ง Skill ชื่อ agent_workdir จาก https://github.com/bytedtsinghua-sia/cuda-agent โฟลเดอร์ agent_workdir (commit 473025c) ลงโปรเจกต์ที่แชตนี้เปิดอยู่ (ที่ .claude/skills/agent_workdir) อ่านไฟล์ทั้งหมดให้ฉันดูก่อนว่ามีสคริปต์หรือแก้ค่าตั้งเครื่องไหม แล้วบอกชื่อโปรเจกต์และ path เต็มที่จะติดตั้ง รอฉันตกลงก่อน

เลือกเฉพาะโปรเจกต์ ให้วางในแชตที่เปิดอยู่ในโฟลเดอร์ของโปรเจกต์นั้น · AI จะบอก path ให้ดูก่อนติดตั้งเสมอ

AI จะบอกก่อนว่าจะทำอะไร และขออนุญาตคุณทุกขั้น

เปิด Claude Code ใหม่ แล้วพิมพ์ /agent_workdir หรือสั่งงานที่ตรงเรื่อง Claude จะเลือกใช้เอง

ตรวจกับเอกสารทางการล่าสุด 12 พ.ย. 2569 · แหล่ง: code.claude.com

สำหรับคนที่ใช้ Terminal

Skill คือคำสั่งที่ AI จะทำตาม อ่านไฟล์ก่อนติดตั้ง และติดตั้งเฉพาะจากผู้ทำที่เชื่อถือได้

  1. เปิด Terminal

    Mac: กด Command+Space พิมพ์ Terminal · Windows: คำสั่งด้านล่างใช้ใน PowerShell ไม่ได้ ให้ใช้ทาง “ให้ AI ติดตั้งให้” ด้านบนแทน

  2. คัดลอกโฟลเดอร์ skill ไปไว้ที่ ~/.claude/skills

    คำสั่งนี้ดาวน์โหลด repo ไว้ชั่วคราว แล้วคัดลอกเฉพาะโฟลเดอร์ที่มี SKILL.md

    git clone --depth 1 https://github.com/bytedtsinghua-sia/cuda-agent.git /tmp/popnx-skill-bytedtsinghua-sia-cuda-agent-473025c && mkdir -p ~/.claude/skills && cp -R '/tmp/popnx-skill-bytedtsinghua-sia-cuda-agent-473025c/agent_workdir' ~/.claude/skills/agent_workdir
  3. เปิด Claude Code ใหม่ แล้วพิมพ์ /agent_workdir หรือสั่งงานที่ตรงเรื่อง Claude จะเลือกใช้เอง

Skill ที่ติดตั้งเองใช้ได้ในแอป ChatGPT บนคอม, Codex CLI และส่วนขยาย Codex ใน IDE · ChatGPT บนเว็บและมือถือใช้ Skill ที่ติดตั้งเองไม่ได้ ใช้ได้เฉพาะ Skill ที่มากับปลั๊กอินในไดเรกทอรี

แอป ChatGPT บนคอม

แอป ChatGPT บนคอมมี Codex อยู่ในตัว Codex อ่าน Skill จากโฟลเดอร์ ~/.agents/skills

ทางที่ 1ให้ ChatGPT ติดตั้งให้

เปิด Codex ในแอป ChatGPT บนคอม แล้ววางประโยคนี้ในแชต

ติดตั้งไว้ที่ไหน
ช่วยติดตั้ง Skill ชื่อ agent_workdir จาก https://github.com/bytedtsinghua-sia/cuda-agent โฟลเดอร์ agent_workdir (commit 473025c) ให้ใช้ได้ทุกโปรเจกต์ของฉัน โดยวางไว้ที่ ~/.agents/skills/agent_workdir อ่านไฟล์ทั้งหมดให้ฉันดูก่อนว่ามีสคริปต์หรือแก้ค่าตั้งเครื่องไหม แล้วบอก path เต็มที่จะติดตั้ง รอฉันตกลงก่อน
ช่วยติดตั้ง Skill ชื่อ agent_workdir จาก https://github.com/bytedtsinghua-sia/cuda-agent โฟลเดอร์ agent_workdir (commit 473025c) ลงโปรเจกต์ที่แชตนี้เปิดอยู่ (ที่ .agents/skills/agent_workdir) อ่านไฟล์ทั้งหมดให้ฉันดูก่อนว่ามีสคริปต์หรือแก้ค่าตั้งเครื่องไหม แล้วบอกชื่อโปรเจกต์และ path เต็มที่จะติดตั้ง รอฉันตกลงก่อน

AI จะบอก path ให้ดูก่อนติดตั้งเสมอ

AI จะบอกก่อนว่าจะทำอะไร และขออนุญาตคุณทุกขั้น

ทางที่ 2วางโฟลเดอร์เอง

วางโฟลเดอร์ agent_workdir ไว้ที่ ~/.agents/skills/agent_workdir

~ คือโฟลเดอร์บ้านของคุณ ($HOME)

สำหรับคนที่ใช้ Terminal

Skill คือคำสั่งที่ AI จะทำตาม อ่านไฟล์ก่อนติดตั้ง และติดตั้งเฉพาะจากผู้ทำที่เชื่อถือได้

  1. เปิด Terminal

    Mac: กด Command+Space พิมพ์ Terminal · Windows: คำสั่งด้านล่างใช้ใน PowerShell ไม่ได้ ให้ใช้ทาง “ให้ AI ติดตั้งให้” ด้านบนแทน

  2. คัดลอกโฟลเดอร์ skill ไปไว้ที่ ~/.agents/skills

    คำสั่งนี้ดาวน์โหลด repo ไว้ชั่วคราว แล้วคัดลอกเฉพาะโฟลเดอร์ที่มี SKILL.md

    git clone --depth 1 https://github.com/bytedtsinghua-sia/cuda-agent.git /tmp/popnx-skill-bytedtsinghua-sia-cuda-agent-473025c && mkdir -p ~/.agents/skills && cp -R '/tmp/popnx-skill-bytedtsinghua-sia-cuda-agent-473025c/agent_workdir' ~/.agents/skills/agent_workdir

หลังติดตั้ง

  • แอป ChatGPT บนคอม: เปิด Skills ในแถบข้างเพื่อดูว่า Skill ขึ้นแล้ว
  • เรียกใช้: ใน ChatGPT พิมพ์ @ แล้วเลือก Skill · ใน Codex CLI หรือส่วนขยายใน IDE พิมพ์ /skills หรือพิมพ์ $ แล้วตามด้วยชื่อ Skill
  • Codex เห็น Skill ที่ติดตั้งใหม่เอง ถ้ายังไม่ขึ้นให้ปิดแล้วเปิด Codex ใหม่

ตรวจกับเอกสารทางการล่าสุด 15 พ.ย. 2569 · แหล่ง: learn.chatgpt.com

ChatGPT บนเว็บและมือถือ

ใช้ Skill ที่ติดตั้งเองไม่ได้ ใช้ได้เฉพาะ Skill ที่มากับปลั๊กอินในไดเรกทอรี

อยากใช้ Skill นี้กับ ChatGPT ให้ใช้แอป ChatGPT บนคอมตามวิธีด้านบน

ตรวจกับเอกสารทางการล่าสุด 15 พ.ย. 2569 · แหล่ง: learn.chatgpt.com

ทางที่ 1ให้ Codex ติดตั้งให้

คัดลอกประโยคนี้ไปวางในแชตของ Codex · ใช้ได้ทั้ง Codex ในแอป ChatGPT บนคอม, Codex CLI และส่วนขยายใน IDE

ติดตั้งไว้ที่ไหน
ช่วยติดตั้ง Skill ชื่อ agent_workdir จาก https://github.com/bytedtsinghua-sia/cuda-agent โฟลเดอร์ agent_workdir (commit 473025c) ให้ใช้ได้ทุกโปรเจกต์ของฉัน โดยวางไว้ที่ ~/.agents/skills/agent_workdir อ่านไฟล์ทั้งหมดให้ฉันดูก่อนว่ามีสคริปต์หรือแก้ค่าตั้งเครื่องไหม แล้วบอก path เต็มที่จะติดตั้ง รอฉันตกลงก่อน
ช่วยติดตั้ง Skill ชื่อ agent_workdir จาก https://github.com/bytedtsinghua-sia/cuda-agent โฟลเดอร์ agent_workdir (commit 473025c) ลงโปรเจกต์ที่แชตนี้เปิดอยู่ (ที่ .agents/skills/agent_workdir) อ่านไฟล์ทั้งหมดให้ฉันดูก่อนว่ามีสคริปต์หรือแก้ค่าตั้งเครื่องไหม แล้วบอกชื่อโปรเจกต์และ path เต็มที่จะติดตั้ง รอฉันตกลงก่อน

เลือกเฉพาะโปรเจกต์ ให้วางในแชตที่เปิดอยู่ในโฟลเดอร์ของโปรเจกต์นั้น · AI จะบอก path ให้ดูก่อนติดตั้งเสมอ

AI จะบอกก่อนว่าจะทำอะไร และขออนุญาตคุณทุกขั้น

Codex เห็น Skill ที่ติดตั้งใหม่เอง ถ้ายังไม่ขึ้นให้ปิดแล้วเปิด Codex ใหม่ · เรียกใช้: ใน ChatGPT พิมพ์ @ แล้วเลือก Skill · ใน Codex CLI หรือส่วนขยายใน IDE พิมพ์ /skills หรือพิมพ์ $ แล้วตามด้วยชื่อ Skill

ตรวจกับเอกสารทางการล่าสุด 15 พ.ย. 2569 · แหล่ง: learn.chatgpt.com

สำหรับคนที่ใช้ Terminal

Skill คือคำสั่งที่ AI จะทำตาม อ่านไฟล์ก่อนติดตั้ง และติดตั้งเฉพาะจากผู้ทำที่เชื่อถือได้

  1. เปิด Terminal

    Mac: กด Command+Space พิมพ์ Terminal · Windows: คำสั่งด้านล่างใช้ใน PowerShell ไม่ได้ ให้ใช้ทาง “ให้ AI ติดตั้งให้” ด้านบนแทน

  2. คัดลอกโฟลเดอร์ skill ไปไว้ที่ ~/.agents/skills

    คำสั่งนี้ดาวน์โหลด repo ไว้ชั่วคราว แล้วคัดลอกเฉพาะโฟลเดอร์ที่มี SKILL.md

    git clone --depth 1 https://github.com/bytedtsinghua-sia/cuda-agent.git /tmp/popnx-skill-bytedtsinghua-sia-cuda-agent-473025c && mkdir -p ~/.agents/skills && cp -R '/tmp/popnx-skill-bytedtsinghua-sia-cuda-agent-473025c/agent_workdir' ~/.agents/skills/agent_workdir
  3. เปิด Codex ใหม่ แล้วสั่งงานที่ตรงเรื่อง Codex จะเห็น skill นี้ในรายการ

ทางที่ 1ให้ Cursor ติดตั้งให้

คัดลอกประโยคนี้ไปวางในแชตของ Cursor

ติดตั้งไว้ที่ไหน
ช่วยติดตั้ง Skill ชื่อ agent_workdir จาก https://github.com/bytedtsinghua-sia/cuda-agent โฟลเดอร์ agent_workdir (commit 473025c) ให้ใช้ได้ทุกโปรเจกต์ของฉัน โดยวางไว้ที่ ~/.cursor/skills/agent_workdir อ่านไฟล์ทั้งหมดให้ฉันดูก่อนว่ามีสคริปต์หรือแก้ค่าตั้งเครื่องไหม แล้วบอก path เต็มที่จะติดตั้ง รอฉันตกลงก่อน
ช่วยติดตั้ง Skill ชื่อ agent_workdir จาก https://github.com/bytedtsinghua-sia/cuda-agent โฟลเดอร์ agent_workdir (commit 473025c) ลงโปรเจกต์ที่แชตนี้เปิดอยู่ (ที่ .cursor/skills/agent_workdir) อ่านไฟล์ทั้งหมดให้ฉันดูก่อนว่ามีสคริปต์หรือแก้ค่าตั้งเครื่องไหม แล้วบอกชื่อโปรเจกต์และ path เต็มที่จะติดตั้ง รอฉันตกลงก่อน

เลือกเฉพาะโปรเจกต์ ให้วางในแชตที่เปิดอยู่ในโฟลเดอร์ของโปรเจกต์นั้น · AI จะบอก path ให้ดูก่อนติดตั้งเสมอ

AI จะบอกก่อนว่าจะทำอะไร และขออนุญาตคุณทุกขั้น

ใน Agent chat ของ Cursor พิมพ์ / แล้วเลือก agent_workdir

ตรวจกับเอกสารทางการล่าสุด 12 พ.ย. 2569 · แหล่ง: cursor.com

สำหรับคนที่ใช้ Terminal

Skill คือคำสั่งที่ AI จะทำตาม อ่านไฟล์ก่อนติดตั้ง และติดตั้งเฉพาะจากผู้ทำที่เชื่อถือได้

  1. เปิด Terminal

    Mac: กด Command+Space พิมพ์ Terminal · Windows: คำสั่งด้านล่างใช้ใน PowerShell ไม่ได้ ให้ใช้ทาง “ให้ AI ติดตั้งให้” ด้านบนแทน

  2. คัดลอกโฟลเดอร์ skill ไปไว้ที่ ~/.cursor/skills

    คำสั่งนี้ดาวน์โหลด repo ไว้ชั่วคราว แล้วคัดลอกเฉพาะโฟลเดอร์ที่มี SKILL.md

    git clone --depth 1 https://github.com/bytedtsinghua-sia/cuda-agent.git /tmp/popnx-skill-bytedtsinghua-sia-cuda-agent-473025c && mkdir -p ~/.cursor/skills && cp -R '/tmp/popnx-skill-bytedtsinghua-sia-cuda-agent-473025c/agent_workdir' ~/.cursor/skills/agent_workdir
  3. ใน Agent chat ของ Cursor พิมพ์ / แล้วเลือก agent_workdir

ทางที่ 1ให้ AI ติดตั้งให้

สำหรับแอปอื่นที่อ่าน Skill ได้ ประโยคนี้มี path ของ Claude Code, Codex และ Cursor ให้ AI เลือกตามแอปที่ใช้ · คัดลอกประโยคนี้ไปวางในแชตของแอป

ติดตั้งไว้ที่ไหน
ช่วยติดตั้ง Skill ชื่อ agent_workdir จาก https://github.com/bytedtsinghua-sia/cuda-agent โฟลเดอร์ agent_workdir (commit 473025c) ให้ใช้ได้ทุกโปรเจกต์ของฉัน โดยวางไว้ที่ ~/.claude/skills/agent_workdir (ถ้าเป็น Codex ใช้ ~/.agents/skills/agent_workdir ถ้าเป็น Cursor ใช้ ~/.cursor/skills/agent_workdir) อ่านไฟล์ทั้งหมดให้ฉันดูก่อนว่ามีสคริปต์หรือแก้ค่าตั้งเครื่องไหม แล้วบอก path เต็มที่จะติดตั้ง รอฉันตกลงก่อน
ช่วยติดตั้ง Skill ชื่อ agent_workdir จาก https://github.com/bytedtsinghua-sia/cuda-agent โฟลเดอร์ agent_workdir (commit 473025c) ลงโปรเจกต์ที่แชตนี้เปิดอยู่ (ที่ .claude/skills/agent_workdir ถ้าเป็น Codex ใช้ .agents/skills/agent_workdir ถ้าเป็น Cursor ใช้ .cursor/skills/agent_workdir) อ่านไฟล์ทั้งหมดให้ฉันดูก่อนว่ามีสคริปต์หรือแก้ค่าตั้งเครื่องไหม แล้วบอกชื่อโปรเจกต์และ path เต็มที่จะติดตั้ง รอฉันตกลงก่อน

เลือกเฉพาะโปรเจกต์ ให้วางในแชตที่เปิดอยู่ในโฟลเดอร์ของโปรเจกต์นั้น · AI จะบอก path ให้ดูก่อนติดตั้งเสมอ

AI จะบอกก่อนว่าจะทำอะไร และขออนุญาตคุณทุกขั้น

ตรวจกับเอกสารทางการล่าสุด 12 พ.ย. 2569 · แหล่ง: code.claude.com, learn.chatgpt.com, cursor.com

สำหรับคนที่ใช้ Terminal

แอปอื่นที่รองรับ Agent Skills (เช่น Gemini CLI, GitHub Copilot) เก็บ skill ในโฟลเดอร์ต่างกัน ดูคู่มือของแอปนั้น แล้วคัดลอกโฟลเดอร์ที่มี SKILL.md ไปวาง

ดูบน GitHub ↗

ตรวจโฟลเดอร์ skill กับคู่มือทางการของ Claude Code, Codex และ Cursor เมื่อ 11 พ.ย. 2569

✓ ตรวจคำสั่งแล้ว 18 พ.ย. 2569

ดูไฟล์ต้นฉบับ SKILL.md

ข้อความต่อไปนี้มาจาก repo ของผู้ทำ ไม่ใช่คำสั่งของ PopNx MCP

แสดง 8,000 ตัวอักษรแรก · เปิดไฟล์เต็มบน GitHub

You are a PyTorch and CUDA expert. Accelerate the given PyTorch Model by creating a high-performance CUDA C++ extension, targeting the best possible performance with a minimum requirement of 5% faster than torch.compile baseline.

## 1. CRITICAL RESTRICTIONS

### ⚠️ STRICTLY FORBIDDEN
- **NO torch operators in C++**: NEVER use `torch::*` or `torch::nn::functional::*` in binding.cpp or .cu files
- **NO torch operations in model_new.py**: Only tensor creation and your custom ops allowed
- **NO third-party libraries**: Except cuBLAS (GEMM only) and cuDNN (Conv only)
- **NO modifications to utils/ directory**
- **NO modifications to binding.cpp or binding_registry.h**: These are fixed infrastructure

### ✅ ALLOWED ONLY
- **C++**: Raw CUDA kernels (for custom ops), cuBLAS (for GEMM), cuDNN (MANDATORY for Conv/ConvTranspose)
- **Python**: torch.tensor creation, custom extension ops, tensor properties (.shape, .device)
- **Memory**: torch::empty_like for allocation only
- **Focus**: Implement kernels in `kernels/` directory only

## 2. WORKSPACE STRUCTURE

```
.
├── binding_registry.h    # Do NOT modify - registration system
├── binding.cpp           # Do NOT modify - main module binding
├── kernels/              # YOUR WORK: Implement all kernels here
├── utils/                # DO NOT modify - Compilation, verification and profiling tools 
├── model.py              # DO NOT modify - Original PyTorch model
└── model_new.py          # YOUR WORK: Your optimized model using custom ops.
```

### File Types and Usage
- **`.cu` files**: CUDA kernels with `__global__` functions (custom implementations)
- **`.cpp` files**: cuDNN/cuBLAS API calls (NO custom kernels)
- **`_binding.cpp` files**: PyTorch tensor handling and Python bindings

## 3. UNIFIED WORKFLOW

### Step 1: Implementation

Create paired files in `kernels/`:

**kernels/my_kernel.cu** (Pure CUDA implementation):
```cuda
#include <cuda_runtime.h>

// Template kernel for performance tuning
template<int BLOCK_SIZE, int TILE_SIZE>
__global__ void my_kernel_impl(float* output, const float* input, int size) {
    // Shared memory for tiling
    extern __shared__ float smem[];
    
    int tid = blockIdx.x * blockDim.x + threadIdx.x;
    int stride = blockDim.x * gridDim.x;
    
    // Grid-stride loop for large data
    for (int i = tid; i < size; i += stride) {
        // Kernel logic with optimizations
        output[i] = /* computation */;
    }
}

// C-interface launcher (no PyTorch dependencies)
extern "C" void my_kernel_launcher(
    float* output,
    const float* input,
    int size,
    int config,
    cudaStream_t stream
) {
    // Dynamic configuration selection
    int blocks = (size + 255) / 256;
    int shared_mem_size = 0;
    
    switch(config) {
        case 0: 
            shared_mem_size = 256 * sizeof(float);
            my_kernel_impl<256, 16><<<blocks, 256, shared_mem_size, stream>>>(
                output, input, size);
            break;
        case 1: 
            shared_mem_size = 128 * sizeof(float);
            my_kernel_impl<128, 32><<<blocks, 128, shared_mem_size, stream>>>(
                output, input, size);
            break;
        default:
            my_kernel_impl<256, 16><<<blocks, 256, 0, stream>>>(
                output, input, size);
    }
}
```

**kernels/my_kernel_binding.cpp** (PyTorch binding):
```cpp
// Use this two headers to replace torch/extension.h for faster compilation
#include <torch/types.h>
#include <torch/csrc/utils/pybind.h>

#include <cuda_runtime.h>
#include <c10/cuda/CUDAStream.h>
#include "../binding_registry.h"

// Declare launcher from .cu file
extern "C" void my_kernel_launcher(
    float* output,
    const float* input,
    int size,
    int config,
    cudaStream_t stream
);

// PyTorch wrapper with config parameter
torch::Tensor my_kernel_forward(torch::Tensor input, int config = 0) {
    // Input validation
    TORCH_CHECK(input.is_cuda(), "Input must be a CUDA tensor");
    TORCH_CHECK(input.is_contiguous(), "Input must be contiguous");
    TORCH_CHECK(input.dtype() == torch::kFloat32, "Input must be float32");
    
    auto output = torch::empty_like(input);
    
    // Get current CUDA stream (correct way)
    cudaStream_t stream = c10::cuda::getCurrentCUDAStream().stream();
    
    // Call CUDA launcher with config
    my_kernel_launcher(
        output.data_ptr<float>(),
        input.data_ptr<float>(),
        input.numel(),
        config,
        stream
    );
    
    return output;
}

// Registration function
void register_my_kernel(pybind11::module& m) {
    m.def("my_kernel_forward", &my_kernel_forward, 
          "My kernel forward",
          py::arg("input"),
          py::arg("config") = 0);
}

// Auto-register
REGISTER_BINDING(my_kernel, register_my_kernel);
```

#### Create model_new.py
```python
import torch
import torch.nn as nn
import cuda_extension

class ModelNew(nn.Module):
    def __init__(self, ...):  # MUST match Model signature exactly
        super().__init__()
        # Initialize parameters - preserve original structure for state_dict compatibility
        self.weight = nn.Parameter(torch.randn(...))
        self.bias = nn.Parameter(torch.zeros(...))
        
    def forward(self, x):
        # Use custom ops only - NO torch operations
        x = cuda_extension.my_kernel_forward(x, config=0)
        x = cuda_extension.gemm_forward(x, self.weight, self.bias)
        return x
```

### Step 2: Compile and Test
```bash
# Compile with architecture-specific optimizations
TORCH_CUDA_ARCH_LIST=9.0 bash utils/compile.sh

# Test in sandbox 
sudo python3 -m utils.verification
sudo python3 -m utils.profiling
```

### Step 3: Performance Optimization (IF NEEDED)

#### 3.1 Optimization Strategy (Priority Order)

**Priority 1: Algorithmic (>50% impact)**
- Kernel fusion - reduce memory traffic
- Shared memory tiling - improve data reuse
- Memory coalescing - consecutive access patterns

**Priority 2: Hardware Utilization (20-50% impact)**
- Vectorized loads (float2/float4)
- Warp-level primitives (__shfl_sync, __ballot_sync)
- Occupancy tuning (block size, register usage)

**Priority 3: Fine-tuning (<20% impact)**
- Instruction-level parallelism
- Mixed precision (FP16/TF32)
- Prefetching and double buffering

#### 3.2 Parameter Tuning (Last Resort)
Only when within 1.2x of target and algorithmic options exhausted:

```python
# tune_kernel.py - NO recompilation needed
import time, torch, cuda_extension

configs = [
    (0, "256_threads_16_tile"),
    (1, "128_threads_32_tile"),
    (2, "512_threads_8_tile")
]

# Test input
x = torch.randn(batch_size, features).cuda()

# Benchmark each config
best_config, best_time = 0, float('inf')
for config_id, name in configs:
    # Warmup
    for _ in range(10):
        cuda_extension.my_kernel_forward(x, config=config_id)
    torch.cuda.synchronize()
    
    # Measure
    start = time.perf_counter()
    for _ in range(100):
        cuda_extension.my_kernel_forward(x, config=config_id)
    torch.cuda.synchronize()
    elapsed = time.perf_counter() - start
    
    print(f"Config {name}: {elapsed:.4f}s")
    if elapsed < best_time:
        best_time, best_config = elapsed, config_id

print(f"Best: config {best_config} ({best_time:.4f}s)")
# Update model_new.py with best_config
```

### Step 4: Iteration Requirements

#### Correctness Failures
**MUST iterate until correctness passes - NO EXCEPTIONS**
1. Debug the specific failing kernel
2. Common issues to check:
   - Boundary conditions (tid < size)
   - Synchronization (__syncthreads placement)
   - Data types and precision
   - Memory alignment
3. Fix in kernels/*.cu and *_binding.cpp ONLY
4. Recompile and test

#### Performance Optimization
**GOAL: Achieve the best possible performance (the faster, the better!)**
**MINIMUM: Must be at least 5% faster than torch.compile baseline**

For each iteration:
1. **Document expectation**: "Fusion will eliminate 3 kernels, expect ~20% speedup"
2. **Apply optimization aggressively**: D

พูดคุย

ถาม แชร์เคล็ดลับ หรือแจ้งว่าใช้ไม่ได้ เรียงตามที่คนกดว่ามีประโยชน์

ยังไม่มีใครโพสต์ ถามหรือแชร์เป็นคนแรกได้เลย

ข้อความในส่วนนี้เขียนโดยผู้ใช้ ไม่ใช่ทีม PopNx

เข้าสู่ระบบเพื่อโพสต์

ข้อมูลจาก GitHub

ดาว GitHub
1,358
ผู้ทำ
BytedTsinghua-SIA
license
ไม่ระบุสัญญาอนุญาต รีโปนี้ไม่ได้ระบุสัญญาอนุญาต (license) ตามกฎหมายลิขสิทธิ์ถือว่าเจ้าของสงวนสิทธิ์ไว้ ใช้เองได้แต่ควรถามเจ้าของก่อนแจกต่อหรือใช้ในงานขาย
แก้โค้ดล่าสุด
8 ก.ค. 2569
ไฟล์ SKILL.md ใน repo (นับรวมสำเนาภาษาอื่นและแม่แบบ)
1