Skip to main content

Cookie settings

We use cookies to ensure the basic functionalities of the website and to enhance your online experience. You can configure and accept the use of the cookies, and modify your consent options, at any time.

Essential

Preferences

Analytics and statistics

Marketing

Remember you have 1 votes left

You have to give 1 more votes between different proposals for your votes to be taken into account.

Continue

โครงการจัดตั้งแพลตฟอร์ม Local LLM & AI Agent Infrastructure เพื่อการศึกษาและการวิจัยแห่งอนาคต

โครงการจัดตั้งแพลตฟอร์ม Local LLM & AI Agent Infrastructure เพื่อการศึกษาและการวิจัยแห่งอนาคต
"เพราะการเรียนรู้ด้าน AI ที่ดีที่สุด ไม่ควรถูกจำกัดด้วยค่า API หรือสเปกคอมพิวเตอร์"

มาร่วมสร้างโครงสร้างพื้นฐานด้าน AI ระดับขีดสุดที่จะเปลี่ยนคณะของเราให้เป็นศูนย์กลางนวัตกรรม Generative AI, RAG และ AI Agents อย่างแท้จริง

1. สภาพปัญหาที่พบ (The Pain Points)
กำแพงค่าใช้จ่าย (API Cost): นิสิตและนักวิจัยต้องแบกรับค่าบริการ Cloud AI (เช่น OpenAI, Anthropic) เพื่อทำการทดลอง ยิ่งพัฒนายิ่งจ่ายแพง

ข้อจำกัดด้านความปลอดภัย (Privacy & Security): ไม่สามารถนำข้อมูลวิจัยที่ละเอียดอ่อน ข้อมูลคณะ หรือข้อมูลความมั่นคงปลอดภัยไซเบอร์ ขึ้นไปประมวลผลบน Cloud สาธารณะได้

ความเหลื่อมล้ำทางอุปกรณ์ (Hardware Limit): โมเดล AI ยุคใหม่มีขนาดใหญ่ แต่นิสิตส่วนใหญ่ไม่มีเครื่องคอมพิวเตอร์ที่มี GPU แรงพอสำหรับรันหรือทดลองปรับแต่ง (Fine-tuning) ด้วยตนเอง

2. แนวทางการแก้ไขและรายละเอียดโครงการ (The Solution)
เราจะจัดตั้ง "แพลตฟอร์ม Local LLM & AI Agent ภายในคณะ" เพื่อเปิดให้ใช้งานฟรี ปลอดภัย และทรงพลัง ตลอด 24 ชั่วโมง โดยแบ่งโครงสร้างออกเป็น:

2.1 Hardware ประสิทธิภาพสูง (On-Premises AI GPU Server)
จัดซื้อเซิร์ฟเวอร์ GPU ระดับองค์กรเพื่อเป็นขุมพลังส่วนกลางในการประมวลผลและเทรนโมเดล

2.2 Software & Open-Source Ecosystem
ติดตั้งและให้บริการโมเดลภาษาขนาดใหญ่ที่เป็น Open-source ระดับโลก เช่น DeepSeek, Llama, Qwen, Mistral และ Gemma ผ่านแพลตฟอร์มจัดการที่ทันสมัย:

vLLM / Ollama / LiteLLM: สำหรับการให้บริการ API ที่รวดเร็วและเสถียร รองรับผู้ใช้จำนวนมาก

Open WebUI: หน้าต่างแชทใช้งานง่ายสำหรับนิสิตและบุคลากรทุกคน

2.3 Sandbox สำหรับเทคโนโลยีขั้นสูง (Beyond Chatbot)
รองรับการเชื่อมต่อ API เพื่อให้นิสิตสามารถลงมือปฏิบัติจริงในเทคโนโลยีเปลี่ยนโลก:

AI Agent & Multi-Agent Systems: สร้างเอเจนต์อัจฉริยะที่ทำงานร่วมกันแบบอัตโนมัติ

RAG (Retrieval-Augmented Generation): ค้นคืนข้อมูลความรู้เฉพาะทางของคณะหรือองค์กร

MCP (Model Context Protocol): เชื่อมต่อโมเดลเข้ากับฐานข้อมูลและเครื่องมือต่าง ๆ ได้โดยตรง

Fine-tuning & Benchmarking: เปิดโอกาสให้ทำวิจัยลงลึกถึงขั้นปรับแต่งโมเดลเองได้

3. กลุ่มเป้าหมายหรือผู้ที่ได้รับประโยชน์ (Target Audience)
นิสิตระดับ ป.ตรี - โท - เอก: ใช้งาน Local LLM ระดับท็อปได้ฟรีเพื่อทำโครงงาน (Senior Projects) และวิทยานิพนธ์ พัฒนาทักษะ AI Engineer ที่ตลาดแรงงานทั่วโลกมีความต้องการสูงในขณะนี้

อาจารย์และนักวิจัย: มี GPU Infrastructure สำหรับรันโมเดลวิจัยได้อย่างปลอดภัย 100% ข้อมูลไม่รั่วไหล พร้อมขยายผลไปสู่การขอทุนวิจัยขนาดใหญ่ภายนอก

คณะและมหาวิทยาลัย: ประหยัดงบประมาณระยะยาวจากการพึ่งพา Cloud AI, ยกระดับหลักสูตรด้าน Computer Science, CoE, Data Science และ Cybersecurity ให้ล้ำสมัยที่สุด

4. งบประมาณที่คาดว่าจะใช้ (Estimated Budget)
วงเงินรวมประมาณ 5,000,000 บาท (เป็นการลงทุนครั้งเดียวที่สร้างประโยชน์ต่อเนื่องหลายปี)

AI GPU Server (GPU ประสิทธิภาพสูงหลายใบ พร้อม CPU, RAM, Storage) 4,000,000 บาท
ระบบ Storage และ Backup เพื่อความปลอดภัยของข้อมูล 300,000 บาท
ระบบ Network และอุปกรณ์ประกอบ เพื่อรองรับการใช้งานพร้อมกันจำนวนมาก 200,000 บาท
Rack, UPS และระบบไฟฟ้า สำหรับรักษาความเสถียรของเซิร์ฟเวอร์ 250,000 บาท
ค่าติดตั้ง ตั้งค่า และวางระบบซอฟต์แวร์ 100,000 บาท
งบสำรองและค่าบำรุงรักษาเบื้องต้น 150,000 บาท

5. ผลลัพธ์ที่คาดหวัง (Expected Outcomes)

ลดความเหลื่อมล้ำในการเข้าถึงเทคโนโลยี: นิสิตทุกคนเข้าถึงโมเดล AI ระดับโลกและ GPU แรงสูงได้ผ่านเบราว์เซอร์ โดยไม่ต้องจ่ายเงินเอง

ยกระดับคุณภาพงานวิจัย: เกิดนวัตกรรม โครงงาน และเปเปอร์วิจัยด้าน Generative AI, RAG และ AI Agent จากคณะของเรามากขึ้นอย่างก้าวกระโดด

ก้าวสู่ผู้นำด้าน AI Infrastructure: คณะจะมีโครงสร้างพื้นฐานที่พร้อมต่อยอดไปสู่ AI Research Center และ AI Computing Infrastructure ของมหาวิทยาลัยในอนาคต

Comment

QR Code

Computer Engineering Community's official logo

โครงการจัดตั้งแพลตฟอร์ม Local LLM & AI Agent Infrastructure เพื่อการศึกษาและการวิจัยแห่งอนาคต

QR Code

Confirm

Please log in

The password is too short.