একটি প্রশিক্ষণ উপাত্তের সেটformula_4 দেয়া আছে যার গঠন formula_5 যেন formula_6-তম উপাত্তের বৈশিষ্ট্য ভেক্টর formula_7 এবং এর নির্দেশক (অর্থাৎ, শ্রেণী) formula_8, একটি প্রশিক্ষণ অ্যালগরিদম এমন একটি ফাংশন formula_9 খুঁজবে, যেখানে formula_10 হল গ্রহণ ক্ষেত্র (Input Space) এবং
formula_11 হল 'ফলাফল ক্ষেত্র (Output Space)। formula_12 ফাংশনটিকে বলা হয় "অনুমান ক্ষেত্র" (Hypothesis space) নামক সম্ভাব্য সকল ফাংশনের ক্ষেত্র formula_13 এর একটি উপাদান। formula_12 কে মাঝেমাঝে formula_15 আকারে প্রকাশ করা হয় যেখানে সর্বোচ্চ মান : formula_16 দেয়া formula_17 সমূহ formula_12 কে সংজ্ঞায়িত করে। ধরি, formula_19 হল সকল স্কোরিং ফাংশনের ক্ষেত্র।

যদিও formula_13 এবং formula_19 ফাংশনের যেকোনো ক্ষেত্র হতে পারে, অনেক প্রশিক্ষণ অ্যালগরিদম এমনভাবে সম্ভাব্য মডেল তৈরি করে যেন formula_12 শর্তাধীন সম্ভাবনা মডেল formula_23, অথবা formula_24 সংযুক্ত সম্ভাবনা মডেল formula_25 গ্রহণ করে।

formula_24 অথবা formula_12 নির্বাচন করার দুটি মৌলিক পদ্ধতি রয়েছে : প্রযুক্ত ঝুঁকি হ্রাসকরণ এবং গাঠনিক ঝুঁকি হ্রাসকরণ. প্রযুক্ত ঝুঁকি হ্রাস করণ এমন ফাংশন খুঁজে, যা প্রশিক্ষণ উপাত্তের সঙ্গে সর্বোত্তমভাবে মানানসই হয়। গাঠনিক ঝুঁকি হ্রাসকরণ ধ্রুবক-ভেদাঙ্ক সমন্বয় ও নিয়ন্ত্রণ করে।

উভয় ক্ষেত্রে ধরা হয় যে, উপাত্ত সমূহ স্বাধীন এবং সমবিভাজিত formula_28 আকারে বিস্তৃত। কিভাবে একটি ফাংশন প্রশিক্ষণ উপাত্ত সমূহের সঙ্গে মানানসই হয়, তা পরিমাপ করার জন্য একটি ঋণ ফাংশন () formula_29 সংজ্ঞায়িত করা হয়। formula_30 প্রশিক্ষণ উপাত্তের জন্য formula_31 এর বিচ্যুতি formula_32। formula_33 ফাংশনের ঝুঁকি formula_34, formula_12 এর প্রত্যাশিত বিচ্যুতি হিসেবে সংজ্ঞায়িত করা হয়।

প্রযুক্ত ঝুঁকি হ্রাসকরণ
কিভাবে সুপারভাইজ লার্নিং কাজ করে
ধ্রুবক ভেদাঙ্কের পার্থক্য
সাধারণীকরণ