تئوری بیز یكی از روش های آماری برای رده بندی به شمار می آید. در این روش كلاس های مختلف، هر كدام به شكل یك فرضیه دارای احتمال در نظر گرفته می شوند. هر ركورد آموزشی جدید، احتمال درست بودن فرضیه های پیشین را افزایش و یا كاهش می دهد و در نهایت، فرضیاتی كه دارای بالاترین احتمال شوند، به عنوان یك كلاس در نظر گرفته شده و برچسبی بر آن ها زده می شود. این تكنیك با تركیب تئوری بیز و رابطه سببی بین داده ها، به طبقه بندی می پردازد. در زیر به ارائه یک مثال در مورد این تئوری میپردازیم.
فرض کنید A1 تا AK ویژگی هایی با مقادیر گسسته هستند، این مقادیر برای پیش بینی یک کلاس گسستهC استفاده می شوند.
– نمونه ای با مقادیر ویژگی مشاهده شده a1 تا ak را در نظر بگیرید.
– هدف پیش بینی و انتخاب دسته ای که عبارت ذیل ما ماکزیمم کند.
– فرمول ساده بیز عبارت است از : 
– با استفاده از فرمول و جایگزینی آن داریم : ![]()
– در این فرمول P(C=c) به ساگی از داده های آموزش مدل قابل استخراج است.
– از طرفی با فرض استقلال داریم:
– فرض در بیز ساده این است که ویژگی ها به طور شرطی از هم مستقل هستند.
فرض می کنیم که برای یک دسته C همه ویژگی ها به طور شرطی از هم مستقل هستند و در نهایت به طور کلی فرض می کنیم:
![]()