HomeĐời SốngCost function là gì

Cost function là gì

10:31, 30/03/2021

Bài thứ 2 vào chuỗi nội dung bài viết tự học tập Machine LearningTrong bài xích này, ta sẽ khám phá về cost function, một function nhằm dự đân oán giá trị output với cùng 1 bộ các cực hiếm input/output cho trước.

Bạn đang xem: Cost function là gì

Đang xem: Cost function là gì

Xem những bài viết khác tại Machine Learning Course Structure

2. Cost Function2.1. Tân oán học2.2. Đạo hàm (Derivative)

1. Các cam kết hiệu

Chúng ta sẽ thống tốt nhất 1 cách sử dụng những cam kết hiệu để biểu thị những thuộc tính của một bài toán.

x(i) đang là quý giá nguồn vào, cũng khá được hotline là đầu vào feature.

y(i) đã là áp ra output mà lại ta cố gắng dự đân oán.

Một cặp (x(i), y(i)) được call là 1 training example.

Số lượng training example được Điện thoại tư vấn là m. vì thế, i=1,2,3,…,m

Lưu ý rằng (i) chỉ là index của quý giá, chưa phải số lũy thừa

Ta cần sử dụng ký từ bỏ X, Y nhằm bộc lộ vùng không khí của input với output

Ví dụ: X = Y = ℝ

Lúc đưa ra một cỗ tài liệu training (training set), mục tiêu của bọn họ là tạo ra được 1 function h sao để cho h(x) rất có thể dự đoán khoảng tuyệt nhất cực hiếm của y.

h là viết tắt mang lại từ bỏ Hypothesis, nguyên do đến tên thường gọi này chỉ đơn thuần nguyên nhân là xưa tê, tín đồ ta viết tên đến nó điều đó, và nó chết thương hiệu luôn luôn.

do vậy, process của bọn họ đã nhỏng sau:

*

lúc y là 1 trong những quý hiếm tiếp tục, ví như giá nhà đất, giá chỉ CP, thì đó là một regression problem.

lúc y chỉ cần một trong những lượng nhỏ tuổi các quý giá một mực (true/false – yes/no), thì đây là một classification problem.

2. Cost Function

Chúng ta “tính toán” sự đúng chuẩn của hàm hypothesis bằng cách áp dụng 1 hàm số. Hàm số đó Điện thoại tư vấn là cost function.

Trước lúc đưa ra bất kỳ một bí quyết xuất xắc hàm số nào, hãy cùng tôi hướng đến vào mớ kiến thức và kỹ năng hỗn độn mà tôi có lẽ để giúp chúng ta hiểu rõ câu chữ then chốt của Cost Function.

2.1. Tân oán học

2.1.1. Xác xuất với thống kê lại (Probability và Statistic)

Trong xác xuất thống kê lại, bao gồm một có mang call là Gaussian Distributed.

Đúng rồi, bạn không chú ý nhầm đâu. Gaussian cũng là 1 trong bản lĩnh nổi tiếng của…Photosiêu thị, lúc cơ mà nó làm cho nhiễu đi vùng được chọn. Tính năng kia Điện thoại tư vấn là Gaussian Blur.

Trong triết lý xác xuất, phân phối hận chuẩn, xuất xắc còn gọi là phân phối hận Gauss, phân pân hận Gaussian, phân pân hận Laplace-Gauss, là một dạng phân păn năn xác xuất liên tục (Continuous probability distribution).

Xem thêm: Chỉ Số Lym Trong Máu Là Gì ? Ý Nghĩa Của Các Chỉ Số Trong Xét Nghiệm Máu

Ssinh sống dĩ tôi nhắc đến phân phối hận chuẩn chỉnh là chính vì theo định lý số lượng giới hạn trung tâm (Central limit theorem), sinh sống dạng tổng thể độc nhất của phân păn năn chuẩn, phân phối của tổng không ít đổi thay bỗng dưng tự do sẽ có được phân phối xê dịch chuẩn.

Tức là, số lượng training example càng nhiều thì mỗi một training example sẽ có cực hiếm càng sát cùng với hàm hypothesis của họ.

Tóm lại, ta đã lựa chọn tham mê số thế nào cho khoảng cách từ đồ vật thị của hàm hypothesis tới y của những training example là nđính thêm tuyệt nhất.

2.1.2. Phương thơm không nên (Variance)

Trong định hướng tỷ lệ cùng những thống kê, phương sai của một biến chuyển đột nhiên là một trong những độ đo sự phân tán những thống kê của biến kia, nó ẩn ý các quý giá của vươn lên là này thường làm việc cách giá trị mong rằng bao xa.

Theo quan niệm này của pmùi hương không đúng, đồ vật thị biểu diễn những quý hiếm mong rằng đó là đồ thị hàm hypothesis của họ kia. Phương thơm không đúng chính là quý hiếm mà ta mong nó càng bé dại càng tốt

Phương không nên của một trở nên bỗng nhiên là bình pmùi hương của độ lệch chuẩn.

Nlỗi sẽ nói ở phần trước, lúc nhưng mà tập cực hiếm nguồn vào training example của bọn họ đủ Khủng, thì ta rất có thể xem từng training example là một trong trở thành tình cờ có phân pân hận chuẩn.

Vậy ta có:

Tập vừa lòng mong rằng = hypothesis

Độ lệch chuẩn:

Pmùi hương sai = (độ lệch chuẩn)2

Vậy phương thơm không đúng của tập hòa hợp các training example đã là:

Nhiệm vụ của ta là tìm thấy cực hiếm nhỏ tuổi tuyệt nhất của phương pháp trên.

2.2. Đạo hàm (Derivative)

Để tra cứu cực hiếm lớn số 1 / bé dại độc nhất của một hàm số, ta hoàn toàn có thể sử dụng đạo hàm.

2.2.1. Một ví dụ toán thù học

Một trái banh được nỉm lên trời. Độ cao của trái banh so với phương diện đất trên ngẫu nhiên thời gian t như thế nào được xem vì công thức:

h = 3 + 14t -5t2

Vậy độ dài lớn số 1 của trái banh là bao nhiêu?

Ứng dụng đạo hàm, ta giải bài bác toán nàgiống như sau:

Hàm số bên trên biểu thị mức độ chũm đổi của chiều cao h tại thời điểm t. do đó, trên độ cao lớn số 1, _cường độ thay đổi độ dài h = 0 (do trái banh không tiếp tục bay cao lên nữa mà ban đầu rơi xuống).

*

Vậy ta có:

14-10t = 0=> t = 1.4Vậy độ dài lớn số 1 là

h = 3 + 14×1.4 – 10×1.4×1.4 = 12.8

2.2.2. Lớn tuyệt nhất tốt nhỏ nhất

Làm sao ta hiểu rằng một hàm số sẽ sở hữu được quý hiếm lớn số 1 hay nhỏ nhất? Nếu phụ thuộc vào trang bị thị thì trái là 1 giải pháp tốn các thời hạn và sức lực lao động.

Tại đây, ta tiếp tục thực hiện đạo hàm (một đợt nữa):

f”(t) = 14 – 10t với t = 1.4 thì f”(t) = 0=> f””(t) = -10 với t = 1.4 thì f””(t) = -10Đây call là Second Derivative Test, phát biểu nhỏng sau:

lúc một hàm số bao gồm cường độ đổi khác = 0 trên điểm x, thì giá trị hàm đạo hàm lần 2 của hàm số kia trên x nếu:

Nhỏ hơn 0: sẽ là giá trị lớn nhất.

Lớn rộng 0: chính là giá trị bé dại độc nhất.

Bằng 0: không thể tìm được quý giá to nhất/nhỏ tuổi tuyệt nhất của hàm số.

Xem thêm: Sở Nội Vụ Tiếng Anh Là Gì - Tổ Chức Các Đơn Vị Thuộc Sở Nội Vụ

2.3. Công thức

Áp dụng cả hai phần đạo hàm cùng toán thù trên, ta đã có:

với

Lý bởi vì của số 2 bên dưới chủng loại số là để triệt tiêu lúc ta có tác dụng đạo hàm. Nhìn bình thường, nó không ảnh hưởng cho tới hiệu quả, vì chưng phương châm là tra cứu cực hiếm bé dại độc nhất của hàm số bên trên.


Chuyên mục: Đời Sống