দিন ১: Offense
Hack the AI
Live Class 1: LLM & AI Agent Security Fundamentals
হ্যাকারের চোখে AI সিস্টেম বোঝা ও ভাঙা
- AI/LLM কীভাবে কাজ করে (simple explanation)
- AI Chatbot vs AI Agent
- OWASP Top 10 for LLM Applications
- Prompt Injection (Direct & Indirect)
- Jailbreak কী এবং কেন হয়
- Sensitive Data Leakage
- কোম্পানিগুলো কোথায় কোথায় AI ব্যবহার করছে
- Insecure Output Handling
- AI Agent এর Tool Misuse ঝুঁকি
- Real-world AI security incident walkthrough
- Bangladesh এর ব্যাংক, ই-কমার্স ও টেলিকম কোম্পানিগুলো AI chatbot ব্যবহারে কোথায় ঝুঁকিতে আছে
- Ethical boundary: কোথায় টেস্ট করা বৈধ, কোথায় নয়
Hands-on Lab
ব্রাউজার-বেসড ল্যাবে একটি ইচ্ছাকৃতভাবে vulnerable AI chatbot টেস্ট করা, system prompt বের করার চেষ্টা, আর indirect prompt injection demo।