01204483 Image Processing — Topic 02, CV + ML Intro

Salmon หรือ Seabass? — จาก Bayes ถึง Logistic Regression

สมมุติในทะเลมีปลาแค่ 2 ชนิด ประชากรปลาใหญ่มาก (จุดเทาบาง ๆ ในกราฟ) เรา สำรวจไม่ได้ทั้งหมด จึงเริ่มจากการสุ่มจับตัวอย่างขึ้นมา วัด 2 feature (ความยาว, ความสว่างผิว) แล้วดูว่า prior/likelihood ที่ได้จากตัวอย่างมี error แค่ไหนเทียบกับเส้นแบ่งจริงของทั้ง population

เราสุ่มจับตัวอย่างปลาขึ้นมา 70 ตัว จาก population ที่ใหญ่เกินจะสำรวจทั้งหมด (จุดเทาบาง ๆ ในกราฟคือ population จริง)

จากตัวอย่าง คำนวณ prior ได้ — — แต่ค่านี้มี error เทียบกับสัดส่วนจริงทั้งทะเล ลองกดเฉลย population จริงดูที่แผงด้านขวา ยิ่งตัวอย่างเล็ก ยิ่งเพี้ยนง่าย

ความยาวและความสว่างผิวของปลาแต่ละชนิด มี likelihood ที่ overlap กัน (เส้นโค้งเหนือ/ข้างกราฟ) — ปลาบางตัว ยาว/สว่างจนแยกชนิดจาก feature เดียวไม่ออก

รวม 2 features เข้าด้วยกันด้วย Bayes' theorem แล้วให้ error บนตัวอย่าง นี้เหลือ —

มองข้อมูลชุดเดียวกันเป็น scatter plot แล้วหาเส้นแบ่งด้วย Logistic Regression — error — — เทียบกับเส้นทึบ (regression line ที่ประเมินจาก population จริงทั้งหมด) จะเห็นได้ว่า เส้นจากตัวอย่างคลาดเคลื่อนไปแค่ไหน

1 · สุ่มตัวอย่างจาก Population

70
Prior (Salmon) — จากตัวอย่าง
—
Prior (Salmon) — population จริง (คงที่)
•••

—

ลองลาก n ขึ้น — แถบบนกับแถบล่างควรค่อย ๆ ใกล้กันขึ้นเรื่อย ๆ

2 · Likelihood บนแกน + จำแนกด้วย Bayes กับ Logistic Regression

Salmon (ตัวอย่าง) Seabass (ตัวอย่าง) Population จริง (คงที่) ปลาทดสอบ เส้นแบ่งจริงของ population เส้นแบ่งของอีกวิธี (เทียบ)
Error — Bayes (2 features)
—
Error — Logistic Regression
—

error ด้านบน = สัดส่วนตัวอย่างทั้งชุดที่ถูกจำแนกผิด (batch-level, resubstitution)

ลองปลาทดสอบ 1 ตัว

57
48
Bayes ทาย: — conf. — · decision error — Logistic ทาย: — conf. — · decision error —