როგორ ხორციელდება ლინეურული რეგრესიის ამოცანის ანალიტიკური გადაწყვეტა? წარმოადგინეთ ნორმალური განტოლება.

රේඛීය ප්‍රතිඵලකරණ කාර්යය යනු, අනාවැකි වටිනාකම් හා සැබෑ ලකුණු අතර වර්ගවල දෝෂයන්ගේ සමස්තය අඩු කරන පරාමිතීන් ( \mathbf{w} ) වෙක්ටරය සොයා ගැනීමයි. ( X ) යනු ලක්ෂණ මැට්‍රික්සාව වන අතර, එය ( m \times n ) විශාලත්වයේ (මෙහි ( m ) යනු වස්තු සංඛ්‍යාව, ( n ) යනු ලක්ෂණ සංඛ්‍යාව), ( \mathbf{y} ) යනු අරමුණු අගයන් වෙක්ටරය වන අතර, එය ( m \times 1 ) විශාලත්වයේ, සහ ( \mathbf{w} ) යනු පරාමිතීන් වෙක්ටරය වන අතර, එය ( n \times 1 ) විශාලත්වයේ. මෙය මෙහෙයුමක් ලෙස සංකල්පිත වේ:

[ J(\mathbf{w}) = | X \mathbf{w} - \mathbf{y} |^2 = (X \mathbf{w} - \mathbf{y})^T (X \mathbf{w} - \mathbf{y}) ]

ඒකෝ, ( \mathbf{w} ) සඳහා උපරිමය සොයා ගැනීමට, ( \mathbf{w} ) පිළිබඳ ඛාදනය ගනිමින් එය සූන්‍යයට සමාන කරමු:

[ \frac{\partial J}{\partial \mathbf{w}} = 2 X^T (X \mathbf{w} - \mathbf{y}) = 0 ]

මෙමගින්, සාමාන්‍ය සමීකරණය ලැබේ:

[ X^T X \mathbf{w} = X^T \mathbf{y} ]

මෙම සමීකරණය විසඳා, විශ්ලේෂණාත්මක විසඳුම සොයා ගනිමු:

[ \mathbf{w} = (X^T X)^{-1} X^T \mathbf{y} ]

මෙම විසඳුම, ( X^T X ) මැට්‍රික්සය අසමත් (ආපසු ගත නොහැකි) නම් පවතී. එසේ නොවුවහොත්, නියමීකරණය හෝ සංඛ්‍යාත්මක ක්‍රම භාවිතා කරයි.