مشتق‌های تابع به چه روشهایی محاسبه می شود؟
مشتق
در مقابل رابطهٔ صریح تابع به شکل کلی formula_2، رابطهٔ ضمنی آن به صورت formula_153 قرار می‌گیرد. برای محاسبهٔ مشتق توابع ضمنی دو روش کلی وجود دارد:
مشتق جزئی
مشتق پاره‌ای یا مشتق جزئی، در مورد توابع چند متغیره، به مشتق تابع نسبت به یکی از متغیرها با ثابت نگه‌داشتن سایر متغیرها گفته می‌شود. حساب دیفرانسیل
اگر "f" تابعی مشتق‌پذیر در دامنهٔ ℝ (یا روی یک بازهٔ باز) باشد و "x" یک بیشینه و کمینه موضعی "f" باشد، مشتق "f" در "x" صفر است. نقاطی که در آن‌ها مشتق "f" صفر است، نقاط بحرانی یا نقاط مانا نامیده می‌شوند. برای بررسی وضعیت نقطهٔ بحرانی، مشتق دوم محاسبه می‌شود: این روش، آزمون مشتق دوم نامیده می‌شود. در روشی دیگر که آزمون مشتق اول نامیده می‌شود، علامت در دو سوی نقطهٔ بحرانی بررسی می‌شود. مقدارویژه و بردارویژه
به عنوان یک مثال ساده و بسیار پر استفاده، عمل‌گر مشتق‌گیری از توابع مشتق‌پذیر ریاضی را در نظر می‌گیریم: formula_46 در این‌جا عمل‌گر formula_47 بر روی تابع مشتق‌پذیر formula_48 عمل نموده و تابع formula_49 را به دست داده‌است. انتگرال چندگانه
برای انواع مختلف تابع این روش متفاوت می‌باشد ولی راحترینش برای توابع مستطیلی (توابعی سه بعدی که x و y آنها به هم ارتباط نداشته باشد) است که به راحتی اول از این تابع یک انتگرال خطی برحسب یکی از متغیرها گرفته می‌شود و سپس از تابع دوم (که دارای یکی دیگر از متغیرهاست) برحسب متغیر دوم انتگرال خطی گرفته می‌شود. رگرسیون خطی
روش پارامتر تخمین پارامتر بهینه از طریق کمترین مربعات ممکن است چند اشکال اساسی داشته باشد. یکی آنکه محاسبهٔformula_89 ممکن است زمانبر باشد. بُعدِ ماتریس مربعی formula_77 برابر است با formula_91 و اگر مقدار formula_36 زیاد باشد زمان محاسبه معکوس این ماتریس می‌تواند مسئله ساز شود. به علاوه این ماتریس ممکن است اساساً معکوس پذیر نباشد. از این رو روش‌های کاراتر و سریعتری برای تخمین پارامتر بهینه مورد استفاده قرار می‌گیرد. یکی از این روش‌ها روش گرادیان کاهشی تصادفی است. در این روش هر بار یک مثال را به‌صورت اتفاقی از نمونه‌های داده انتخاب کرده، گرادیان تابع هزینه را حساب می‌کنیم و کمی در جهت خلاف گرادیان پارامتر را حرکت می‌دهیم تا به یک پارامتر جدید برسیم. گرادیان جهت موضعی بیشترین افزایش را در تابع به ما نشان می‌دهد، برای بیشترین کاهش موضعی در خلاف جهت گرادیان باید حرکت کرد. اینکار را آنقدر ادامه می‌دهیم که گرادیان به اندازه کافی به صفر نزدیک شود. به‌جای اینکه داده‌ها را به‌صورت تصادفی انتخاب کنیم می‌توانیم به ترتیب داده شماره formula_93 تا داده شماره formula_94 را انتخاب کنیم و بعد دوباره به داده اولی برگردیم و این کار را چندین بار تکرار کنیم تا گرادیان تابع به اندازهٔ کافی به صفر نزدیک شود. از لحاظ ریاضی این کار را می‌توان به شکل پایین انجام داد: پارامتر formula_56 را در ابتدا به‌صورت تصادفی مقدار دهی می‌کنیم و بعد برای داده formula_12 ام و تمامی formula_97‌ها، یعنی از formula_98 تا formula_99 تغییر پایین را اعمال می‌کنیم، دراینجا formula_100 همان مقداری است که در جهت گرادیان هربار حرکت می‌کنیم و formula_101 مشتق جزئی داده formula_12 ام در بُعد formula_97 ام است: مشتق کل
مشتق کل یک تابع formula_1 با چندین متغیر، برای نمونه formula_2، formula_3، formula_4 و... نسبت به یکی از متغیرهایش مانند formula_2 با مشتق پاره‌ای آن (formula_6) نسبت به آن متغیر متفاوت است. برای محاسبهٔ مشتق کل یک تابع formula_1 نسبت به formula_2، فرض نمی‌شود که متغیرهای دیگر ثابت‌اند در حالی‌که formula_2 تغییر می‌کند. در عوض، اجازه داده می‌شود که متغیرهای دیگر هم به formula_2 وابسته باشد. مشتق کل، این وابستگی‌های غیرمستقیم را هم در نظر می‌گیرد تا نشان‌دهندهٔ وابستگی کلی تابع formula_1 نسبت به formula_2 باشد. برای مثال، مشتق کل formula_13 نسبت به formula_2 به‌صورت زیر محاسبه می‌شود:  که به‌صورت زیر ساده می‌شود: با ضرب‌کردن رابطهٔ بالا در دیفرانسیل formula_17: نتیجه، تغییر جزئی formula_19 در مقدار تابع formula_1 خواهد بود. با توجه به اینکه تابع formula_1 به متغیر formula_2 وابسته است، بخشی از این تغییر ناشی از مشتق پاره‌ای formula_1 نسبت به formula_2 خواهد بود. با این حال، بخشی از این تغییر هم ناشی از مشتق‌های پاره‌ای تابع formula_1 نسبت به متغیرهای formula_3 و formula_4 خواهد بود. مشتق
قاعدهٔ لایبنیتس بیان می‌کند که اگر دو تابع formula_6 و formula_90 روی بازهٔ formula_182 دارای مشتق‌های متوالی تا مرتبهٔ formula_57 باشند، آنگاه حاصل‌ضرب formula_237 نیز روی این بازه دارای مشتق‌های متوالی تا مرتبهٔ formula_57 است و داریم: مشتق
در نهایت چون نقطهٔ formula_277 روی خط مماس قرار دارد، در معادلهٔ فوق قرار داده تا یک معادلهٔ یک مجهولی بر حسب formula_17 بدست آید. مشتق
تابع اولیه یا پادمشتق تابع formula_6 نامیده می‌شود. تابع formula_131 روی formula_129 مشتق‌پذیر است و برای هر formula_137 داریم: مشتق متقارن
اگر formula_2 و formula_3 دو نقطه در نمودار باشد شیب خط برابر رابطه یاد شده است که با نزدیک کردن formula_4 به صفر به شیب مماس در نقطه formula_5 یا مشتق در نقطه formula_5 نزدیک می‌شویم. مشتق مشتق
مواردی که تابع در نقطهٔ مفروض formula_17 مشتق‌پذیر نیست: مشتق زمانی
مشتق زمانی یا مشتق نسبت به زمان به مشتق یک تابع نسبت به زمان گفته می‌شود که معمولاً مفهومی از نرخ تغییر مقدار تابع دارد. متغیر زمان معمولاً با "t" نشان داده می‌شود. تفاضل محدود
بعضاً، برای برنامه‌هایی که در آن‌ها محاسبه مستقیم تابع f میسر نیست، می‌توان مشتق اول و دوم را محاسبه کرد. فرمول کارآمدتر حالت آخر به صورت زیر می‌باشد: مشتق
مشتق جزئی تابع formula_160 میزان تغییرات formula_6 را در امتداد محورهای مختصات به دست می‌دهد در حالیکه مشتق جهت‌دار، سویی یا جهتی، میزان تغییرات formula_6 را در امتداد یک بردار دلخواه در فضا حساب می‌کند. اگر formula_6 در همسایگی نقطهٔ formula_164 تعریف شده باشد و formula_165 برداری شامل نقطهٔ formula_166 باشد، مشتق جهت‌دار formula_6 در formula_168 به صورت زیر محاسبه می‌شود: مشتق
بسیاری از مسائلی که در علوم تجربی و ریاضیات مطرح می‌شوند، در جستجوی یافتن مقادیر ماکزیمم و مینیممی هستند که یک تابع مشتق‌پذیر می‌تواند در دامنهٔ خاص اختیار کند و مشتق ابزار مناسبی برای یافتن این مقادیر است. بسط تیلور
فرض کنید می‌خواهیم تابعی چندجمله‌ای مثل formula_14 مدلسازی کنیم که در همسایگی نقطه formula_15 با تابع formula_1 یکریخت باشد. اول اینکه باید مقدار تابع در نقطه formula_15 با formula_9 برابر باشد پس داریم: formula_19 تا اینجا داریم formula_20 و اکنون برای اینکه تابع formula_21 در همسایگی formula_15 نیز شبیه formula_9 شود باید مشتق‌های آن در این نقطه با مشتق‌های formula_9 برابر باشد. مشتق‌های formula_9 را به صورت مضاربی از x به formula_21 اضافه می‌کنیم به‌طوری که: (۱) در نقطهٔ formula_15 برابر صفر باشند تا مدل به هم نخورد و (۲) مشتق i-اُمِ formula_21 برابر با مشتق i-اُمِ formula_9 باشد. برای برقراری شرط یک و دو کافی‌ست مقدار عددی مشتق i-اُمِ formula_9 را به ضریبِ formula_31 قرار دهیم. در این صورت این مقدار تا مشتق i-اُم صفر باقی خواهد ماند و چون در هر مشتق این مقدار در توانِ صورت ضرب می‌شود هنگامِ گرفتن مشتق i-اُم خواهیم داشت formula_32. اگر اضافه کردن مشتقات را تا ابد ادامه دهیم تابع formula_21 بیشتر شبیه formula_9 شده تا در بینهایت هم‌ارز خود formula_9 شود. مشتق
به بیان دیگر، هرگاه formula_45 تابعی از formula_104 و formula_104 تابعی از formula_7 باشد، برای بدست آوردن مشتق formula_45 نسبت به formula_7، مشتق formula_45 نسبت به formula_104 را در مشتق formula_104 نسبت به formula_7 ضرب می‌کنیم. مشتق
اگر نمودار تابعی به صورت formula_372 باشد، تقعر آن به سمت بالاست. در این حالت منحنی بالای هر خطی که بر آن مماس شود، قرار می‌گیرد. به عبارت دیگر اگر formula_39 صعودی اکید باشد یا formula_53 روی بازهٔ formula_129 موجود و همواره مثبت باشد، آنگاه جهت تقعر نمودار formula_6 روی این بازه رو به بالاست. مشتق
تعبیر هندسی مشتق‌پذیری: تابع formula_6 در formula_68 مشتق‌پذیر است هرگاه بتوان در این نقطه یک خط کامل مماس و غیر موازی با محور yها بر منحنی رسم کرد. مشتق
اگر تابع formula_90 در نقطهٔ formula_17 و تابع formula_6 در formula_99 مشتق‌پذیر باشد، آنگاه تابع formula_100 نیز در formula_17 مشتق‌پذیر است و داریم: انتگرال
انتگرال‌های معین ممکن است با استفاده از روش‌های انتگرال‌گیری عددی، تخمین زده شوند. یکی از عمومی‌ترین روش‌ها، روش مستطیلی نامیده می‌شود در این روش ناحیه زیر نمودار تابع به یک سری مستطیل تبدیل شده و جمع مساحت آن‌ها نشان دهنده مقدار تقریبی انتگرال است. از دیگر روش‌هایی معروف برای تخمین مقدار انتگرال روش سیمپسون و روش ذوزنقه‌ای است. اگر چه روش‌های عددی مقدار دقیق انتگرال را به ما نمی‌دهند ولی در بعضی از مواقع که انتگرال تابعی قابل حل نیست یا حل آن مشکل است کمک زیادی به ما می‌کند. مشتق
تابع formula_6 در formula_68 مشتق‌پذیر است هرگاه در این نقطه پیوسته باشد و مشتق چپ و راست تابع با هم برابر و مساوی یک عدد حقیقی معین باشد. حسابان
رایج ترین نماد برای مشتق، نشانی شبیه به آپاستروف است که به آن پرایم (یا در فارسی پریم) می گویند. لذا، مشتق یک تابع مثل formula_10 به صورت formula_11 نوشته شده و آن را "اف پرایم" می خوانند. به عنوان مثال، اگر formula_6 تابع مربع ساز باشد، آنگاه formula_13 مشتق آن است (همان تابع دوبرابر کننده که در بالا بحث شد). این نمادگذاری به نمادگذاری لاگرانژ معروف است. پس‌انتشار
حال فرض کنیم می‌خواهیم گرادیان تابع formula_28 را نسبت به وزن formula_4 بدست بیاوریم. برای این کار نیاز به قاعده زنجیری در مشتق‌گیری داریم. قاعده زنجیری به این شکل کار می‌کند: اگر تابعی داشته باشیم به اسم formula_31 که وابسته به سه ورودی formula_32، formula_33 و formula_34 باشد و هرکدام از این سه ورودی به نوبه خود وابسته به formula_35 باشند، مشتق formula_31 به formula_35 به این شکل محاسبه می‌شود: تابعی (ریاضیات)
formula_8 مشتق‌های تابعی در مکانیک لاگرانژی استفاده می‌شوند. آن‌ها مشتق تابعی‌ها هستند، یعنی چگونگی تغییر تابعی را در حالتی که تابع به مقدار کمی تغییر می‌کند بیان می‌کنند. حساب تغییرات را ببینید. مشتق‌گیری لگاریتمی
به دو طرف معادله لگاریتم طبیعی اعمال می‌شود تا تقسیم‌ها به تفریق تبدیل شوند و با استفاده از قاعده زنجیری و قاعده جمع و پس از اعمال جبری و تبدیل y به تابعی از x، مشتق y به دست می‌آید: مشتق
مفهوم مشتق تا اوائل قرن ۱۷ میلادی، یعنی تا قبل از آنکه ریاضی‌دان فرانسوی، پییر دو فرما به تعیین اکسترمم‌های چند تابع خاص دست بزند، تنظیم نشده بود. فرما دریافت که خطوط مماس، در نقاطی که منحنی ماکزیمم یا مینیمم دارد، باید افقی باشد. از اینرو به نظرش رسید که مسئلهٔ تعیین نقاط اکسترمم تابع، به حل مسئلهٔ دیگر، یعنی یافتن مماس‌های افقی مربوط می‌شود، تلاش برای حل این مسئلهٔ کلی‌تر بود که فرما را به کشف برخی از ایده‌های مقدماتی مفهوم مشتق هدایت کرد. تابع مولد
توابع مولد دارای انواع مختلفی مانند توابع مولد معمولی، توابع مولد نمایی، سری‌های لمبرت، سری‌های بل و سری دیریکله می‌باشند که در ادامه برای هر یک تعریف و مثال‌هایی ارائه داده می‌شود. هر دنباله در اصل یک تابع مولد از هر نوع دارد(به جز سری‌های لمبرت و دیریکله که از اندیس یکم شروع می‌شوند ، بقیه انواع از اندیس صفرم شروع می‌شوند) و بسته به نوع تابع می‌توان از تابع مولد مناسب استفاده کرد. توابع مولد اغلب به صورت یک فرم بسته (به جای یک سری) ارائه می‌شوند. گاهی اوقات یک تابع مولد با یک مقدار خاص x مقداردهی می‌شود. به هر حال، باید توجه داشت که توابع مولد سری‌هایی توانی هستند و لازم نیست که برای همهٔ مقادیر x رفتار مشابهی داشته باشند. حساب دیفرانسیل
هدف اصلی مطالعهٔ حساب دیفرانسیل، محاسبهٔ تغیرات یک تابع و کاربردهای آن است. مشتق تابع در یک نقطهٔ دلخواه، نرخ تغییرات تابع در آن نقطه را توصیف می‌کند. فرایند یافتن مشتق، مشتق‌گیری نامیده می‌شود. از نظر هندسی، مشتق در یک نقطه شیب خط مماس روی نمودار تابع با جهت مثبت محور طول‌ها در همان نقطه است؛ به شرطی که مشتق در آن نقطه موجود باشد. مشتق تابع حقیقی یک‌متغیره در هر نقطه، بهترین تقریب خطی برای تابع در آن نقطه است. مشتق توابع مثلثاتی
برای محاسبه مشتق تابع کسینوس، از تعریف مشتق به صورت زیر بهره می‌بریم: با سود بردن از اتحاد داریم: با استفاده از حد تابع‌های سینوس و کسینوس (که بالاتر، اثبات شده‌اند): مشتق
منظور از دامنهٔ تابع مشتق مجموعهٔ نقاطی است که تابع در آن‌ها مشتق‌پذیر است. به‌طور کلی برای تابع formula_6 داریم: مشتق
مشتق به ازای مختصات نقطهٔ تماس برابر است با ضریب زاویهٔ خط مماس. پس برای تعیین شیب خط مماس یا قائم بر منحنی و تعیین معادلهٔ آن‌ها می‌توان از مشتق استفاده کرد. کاربردهای مشتق
پیدا کردن بازه‌هایی که در آن مشتق ویژگی خاصی مثلاً مثبت بودن، عددی خاص مثل صفر بودن یا از درجه خاصی بودن تابع مشتق یا … دارد، در رسم نمودار اهمیت دارد. برای رسم نمودار هر تابعی باید تابع خصوصیات زیر را دارا باشد رگرسیون خطی
در روش پیش‌رو، ابتدا عرض از مبدأ از طریق محاسبه میانگین مقادیر متغیر وابسته به‌دست می‌آید، سپس به تناوب در هر مرحله متغیری که باعث بیشترین کاهش تابع هزینه می‌شود به مدل افزوده می‌شود. به زبان دقیق‌تر در مرحله formula_160، یک متغیر از متغیرهای مستقل که تا به حال انتخاب نشده به formula_161 متغیر منتخب اضافه می‌شود. در نهایت بهترین زیرمجموعه از میانِ formula_36 زیرمجموعه‌ای که متناوباً ساخته شده با استفاده از اعتبارسنجی متقابل محاسبه می‌شود. برای تسریع انتخاب متغیر مستقل بهینه در هر مرحله می‌توان از تجزیه کیوآر استفاده کرد. روش پس‌رو مانند روش پیش‌رو عمل می‌کند با این تفاوت که در ابتدا تمام متغیرهای مستقل مورد استفاده قرار می‌گیرند و در هر مرحله یک متغیر مستقل حذف می‌شود. بهترین متغیر برای حذف در هر مرحله متغیری است که کمترین امتیاز طبیعی را داشته باشد. مشتق توابع مثلثاتی
به‌طور خلاصه، مشتق تابع‌های مثلثاتی و مشتق تابع‌های وارون مثلثاتی را می‌توان در جدول زیز نشان داد: برای اثبات مشتق‌ها نخست باید چند قضیه مهم حد که در استخراج رابطه برای مشتق‌ها مورد نیاز هستند، اثبات شوند. مشتق
برخلاف مشتق جزئی، در محاسبهٔ مشتق کل تابع formula_197 نسبت به متغیر formula_198، متغیرهای دیگر ثابت در نظر گرفته نمی‌شوند بلکه به formula_198 بستگی خواهند داشت و مشتق کل به صورت زیر تعریف می‌شود: مشتق
اگر در بازهٔ فوق نقطه‌ای مثل formula_244 وجود داشته باشد که تابع در آن نقطه ناپیوسته باشد، می‌بایست formula_321 و formula_322 را نیز بدست آورد و مانند موارد بالا وجود formula_312 یا formula_313 را بررسی کرد. مشتق
کسر فوق، خارج قسمت تفاضلی formula_6 در formula_7 نامیده می‌شود. اگر formula_7 ثابت نگه داشته شود و formula_9 به سمت صفر میل کند، آنگاه خارج قسمت تفاضلی formula_6 در formula_7 اگر فقط به formula_7 بستگی داشته باشد به مقداری میل می‌کند که به آن شیب خط مماس گفته می‌شود. به عبارت دیگر، حاصل حد زیر در صورت وجود ضریب زاویهٔ خط مماس نمودار تابع formula_6 در formula_7 را بدست می‌دهد: مشتق توابع مثلثاتی
برای محاسبه مشتق تابع تانژانت، از تعریف مشتق به صورت زیر بهره می‌بریم: با استفاده از اتحاد جمع دو زاویه () داریم: پس از تبدیل حد حاصل‌ضرب به حاصل‌ضرب حدها: اکنون از حد تابع تانژانت و به صفر میل کردن تانژانت در نزدیکی صفر، بهره می‌بریم: رابطه بالا را به صورت زیر نیز می‌توان نوشت: قاعده جمع
قاعده جمع در حسابان، روش پیدا کردن مشتق یک تابع است که آن، تابع، از مجموع دو یا چند تابع دیگر حاصل شده باشد. اگر تابعی از مجموع دو تابع "u" و "v" حاصل شده باشد آنگاه داریم: اگر تابعی از مجموع چند تابع حاصل شده باشد آنگاه داریم: تابع تولید
همچنین هر یک از این توابع به فرم‌های مختلفی ممکن است ظاهر شود. از جمله در ساده‌ترین فرم خود به‌صورت خطی و در شکل‌های پیچیده‌تر و در عین حال واقعی‌تر، به‌صورت درجات دو و بالاتر، لگاریتمی و نیمه‌لگاریتمی، نمایی و... قابل بیان است. تعیین فرم دقیق این تابع تا حدود زیادی بستگی به شرایط تولید دارد. با این وجود غالباً اقتصادانان علاوه بر استفاده از تجربیات مشابه، ملاک انتخاب فرم تابع را بر مبنای توجیه آماری آن قرار می‌دهند. تابع سیگموئید
مشتق تابع را می‌توان به شکل ذیل نیز نوشت: مشتق
مشتق چپ: اگر تابع formula_6 در فاصلهٔ formula_71 تعریف شده باشد آنگاه حاصل حد، زیر در صورت وجود، مشتق چپ تابع در formula_68 می‌باشد: مشتق جزئی
مشتق جزئی تابع f نسبت به متغیر x به یکی از صورت‌های زیر نمایش داده می‌شود: قاعده خارج‌قسمت
اگر بخواهیم مشتق عبارت formula_9 را بگیریم، داریم: پس طبق این قاعده مشتق به صورت زیر محاسبه می‌شود: مشتق
تقریباً مشتق تمامی توابع نمایی مشهور و پر کاربرد به شکل زیر است: رابطه بازگشتی
در این روش دیگر احتیاجی به حل λ و λ نیست. در همه حالات (مقادیر ویژه متمایز حقیقی، مقادیر ویژه تکراری حقیقی، مقادیر ویژه مختلط) دنباله ثابت است. (متغیر به مقدار ثابت، معمولاً صفر، همگراست) اگر و فقط اگر هر دو مقدار ویژه از مقدار ثابت کوچکتر باشند. در این معادله از مرتبه دو، این شرط برای مقادیر ویژه را می‌توان به صورت "A| < 1 − B < 2|" یا "A| < 1 − B"، "|B| < 1|" نشان داد. مشتق
لایبنیتس در سال ۱۶۷۵ میلادی با استفاده از عملگر تفاضلی formula_27 خارج قسمت تفاضلی formula_28 را به شکل formula_29 نوشت و برای مشتق تابع formula_6 در formula_7 نماد formula_32 را معرفی کرد که به صورت formula_33 نیز نوشته می‌شود. این نماد که نمایش دیفرانسیلی مشتق نامیده می‌شود، برای نمایش مشتق مراتب بالاتر به شکل formula_34 نوشته می‌شود. با استفاده از این نماد تعریف مشتق به صورت formula_35 در می‌آید. تابع گرین
همچنین با شرط پرش روی مشتق در نقطه ی formula_52 داریم: formula_57 با حل دستگاه مقادیر b,d بدست خواهند آمد;formula_58 و formula_59 مشتق متقارن
formula_1 مشتق
هرگاه بخواهیم مشتق یک تابع مانند formula_6 را نسبت به تابع دیگری مانند formula_90 بدست آوریم، کافی است مشتق این توابع را نسبت به متغیرشان محاسبه نموده و سپس برهم تقسیم کنیم. رگرسیون خطی
یکی دیگر از روش‌های متداول تخمین، روش کمترین مربعات است که در آن مجموع مربع تفاضل پیش‌بینی‌ها و داده‌های وابسته کمینه می‌شود. این روش مستلزم پیدا کردن وارونه ضرب خارجی ماتریس تمام داده‌های مستقل با ماتریس ترانهادهٔ آن است، فرآیندی که می‌تواند به علت وارونه‌ناپذیری ماتریس نهائی و کمبود داده پرهزینه و ناکارا باشد. از این رو عموماً از روش‌های جایگزین مانند گرادیان کاهشی تصادفی استفاده می‌شود. با اینکه روش کمترین مربعات از متداول‌ترین روش‌های تخمین مدل رگرسیون خطی است اما روش‌های دیگری مانند کمترین قدرمطلق‌ها (که در آن مجموع قدرمطلق تفاضل پیش‌بینی و داده وابسته به عنوان تابع هزینه در نظرگرفته می‌شود) یا تخمین جریمه یافتهٔ کمترین مربعات (مانند جریمهٔ نُرمِ formula_1 و جریمهٔ نُرمِ formula_2) نیز مورد استفاده قرار می‌گیرد. مشتق کل
مشتق کل می‌تواند به یک عملگر دیفرانسیلی مانند عملگر زیر اشاره کند: که مشتق کل یک تابع را (در این مثال نسبت به formula_3) محاسبه می‌کند. حساب چندمتغیره
مشتق‌گیری پاره‌ای، مفهوم مشتق را به ابعاد بالاتر (چند متغیره) گسترش می‌دهد. مشتق پاره‌ای یک تابع چندمتغیره، مشتق آن تابع نسبت به یک متغیر است در حالی که سایر متغیرها ثابت باشند. حساب دیفرانسیل
تابع‌ها عموماً خطی نیستند و شیب ثابت ندارند. از نظر هندسی، مشتق "f" در نقطهٔ "x"="a" شیب خط مماس بر تابع "f" در نقطهٔ "a" است که معمولاً به صورت در نمادگذاری لاگرانژی یا در نمادگذاری لایبنیتزی نمایش داده می‌شود. از آن‌جایی که مشتق همان شیب تقریب خطی "f" در نقطهٔ a است، مشتق بهترین تقریب خطی "f" در نزدیکی "a" را به دست می‌دهد. مشتق
با تبدیل formula_9 به formula_25 تعریف دوم مشتق به صورت زیر حاصل می‌شود: مشتق
برای محاسبهٔ مشتق یک تابع برداری، می‌توان آن را برحسب مؤلفه‌های قائم خود، به صورت formula_185 و formula_186 نوشت و از هر کدام به‌طور جداگانه مشتق گرفت؛ یعنی اگر formula_187 و formula_188 وجود داشته باشند مشتق تابع برداری formula_104 به صورت زیر نوشته می‌شود: ماتریس هسین
فرض کنید formula_1 تابعی باشد که ورودی آن بردارهای formula_2 و خروجی آن formula_3 باشد. اگر تمام مشتقات جزئی مرتبه دوم formula_4 وجود داشته و روی دامنه تابع پیوسته باشد، آنگاه ماتریس هسین formula_5 از formula_4، ماتریس مربعی formula_7 است که اغلب آن را به صورت زیر نمایش می دهند: تابع لجستیک
به صورت برعکس، پاد مشتق را می‌توان با formula_27 محاسبه کرد، زیرا formula_28، از این رو (با حذف ) مشتق
مشتق تمامی توابع جبری به شکل زیر است: مشتق
اگر تابع formula_6 پیوسته نباشد، دامنهٔ تابع را به فاصله‌هایی که تابع در آن‌ها پیوسته‌است، تقسیم می‌کنیم و به کمک مشتق وضعیت یکنوایی تابع را در هر بازه مشخص می‌کنیم. سپس نقاط انتهایی هر بازه (یا حد انتهایی هر بازه) را با نقاط ابتدایی بازهٔ بعد (یا حد ابتدایی بازهٔ بعد) مقایسه می‌کنیم. مشتق
اگر formula_139 آنگاه مشتق تابع formula_104 از رابطهٔ زیر بدست می‌آید: مشتق
معادلات دیفرانسیل یک معادله ریاضی است و بیانگر یک تابع مجهول از یک یا چند متغیر مستقل و مشتق‌های مرتبه‌های مختلف آن نسبت به متغیرهای مستقل می‌باشد. فرض کنید تابعی معین از , و مشتقات باشد. در این صورت معادله‌ای به فرم زیر: مشتق‌گیری لگاریتمی
در حساب دیفرانسیل و انتگرال، مشتق‌گیری لگاریتمی روشی است که برای محاسبهٔ مشتق یک تابع f با استفاده از مشتق لگاریتم آن تابع به‌کار می‌رود: از این روش معمولاً در مواردی استفاده می‌شود که محاسبهٔ مشتق لگاریتم تابع از محاسبهٔ مشتق خود تابع آسان‌تر است. این اتفاق مواقعی رخ می‌دهد که تابع مذکور از حاصلضرب چند بخش مجزا تشکیل شده باشد و اعمال لگاریتم بتواند آن را به جمع بخش‌های جدا (که مشتق‌گیری از آن ساده‌تر است) تبدیل کند. این روش را همچنین می‌توان برای مشتق‌گیری از توابعی که به توان تابعی دیگر رسیده‌اند استفاده کرد. مشتق‌گیری لگاریتمی با بهره از قاعده زنجیری و لگاریتم (به‌ویژه لگاریتم طبیعی، یا لگاریتمی با پایهٔ عدد e) ضرب‌ها را به جمع و تقسیم‌ها را به تفریق تبدیل می‌کند. از این روش دستکم تا حدودی می‌توان درگرفتن همهٔ توابع مشتق‌پذیر غیر صفر استفاده کرد. لم جردن
این نتیجه نشان می‌دهد که با استفاده از ابزارهایی که در آنالیزِ مختلط در دست داریم، چه‌طور می‌توان به سادگیِ تمام انتگرالِ تابع‌هایی را محاسبه کرد (تابع‌هایی چون formula_17) که محاسبه‌شان در حالتِ عادی بسیار دشوار و گاه حتی ناممکن است. مشتق
به‌طور کل معادلات دیفرانسیل به سه روش تحلیلی، نیمه تحلیلی و عددی قابل حل می‌باشد. رگرسیون خطی
کمترین مربعات جزئی یکی از روش‌های جلوگیری از از بیش‌برازش یا مقابله با مشکل عدم وارونپذیریِ formula_77 است. این روش متناوباً مولفه‌هایی متعامد (formula_79 در پایین) که ترکیبی خطی از مقادیر متغیرهای مستقل (formula_80 در پایین) هستند تولید می‌کند و در نهایت راه حل کمترین مربعات را بر روی این بردارها اعمال می‌کند. ضرایب این مولفه‌ها با ضرب نقطه‌ایِ مقادیر متغیرهای وابسته و مستقل برابر است. مقادیر متغیرهای مستقل در ابتدای کار استاندارد شده‌اند به این معنی که میانگین صفر و واریانس یک دارند. در پایان هر مرحله مقادیر متغیرهای مستقل نسبت به مولفه آن مرحله متعامد می‌شوند. این کار باعث می‌شود که در پایان تمام مولفه‌ها نسبت به هم متعامد باشند و ضریب رگرسیون مولفه formula_81 با formula_82 برابر باشد. الگوریتم تولید مولفه‌ها برای formula_83 به شکل پایین است (formula_84 از روش اعتبارسنجی متقابل محاسبه می‌شود): formula_85 از آنجا که formula_86 یا همان مقدار پیش‌بینی شده، ترکیبی خطی از formula_87‌ها است و خود formula_87‌ها هم ترکیبی خطی از مقادیر متغیرهای مستقل هستند، در نهایت مدل رگرسیون ترکیبی خطی از مقادیر متغیرهای مستقل خواهد بود. مشتق متقارن
در ریاضیات، مشتق متقارن یک عملیات است که مشتق معمولی را تعمیم می‌دهد. که با این رابطه مشخص می‌شود: مشتق
اگر تابع formula_6 روی بازهٔ formula_129 مشتق‌پذیر باشد تابع formula_39 خود ممکن است در نقطه‌ای مثل formula_17 مشتق‌پذیر باشد. به عبارتی اگر formula_220 موجود باشد، می‌گوییم مشتق مرتبهٔ دوم تابع formula_6 در formula_17 موجود است و آن را با formula_223 نمایش می‌دهیم. مشتق جهت‌دار
در ریاضیات، مشتق سویی یا مشتق جهتی یک تابع مشتق‌پذیر چند متغیره در راستای یک بردار formula_1 در نقطهٔ formula_2، به‌طور شهودی نشان‌دهندهٔ نرخ تغییرات لحظه‌ای آن تابع در حال عبور از نقطهٔ formula_2 با سرعتی معادل با بردار formula_1 است. بنابراین، مشتق جهت‌دار، مفهوم مشتق پاره‌ای را که در آن نرخ تغییرات در راستای یکی از محورهای مختصات خمیده‌خط با ثابت در نظر گرفتن سایر مختصات محاسبه می‌شود، تعمیم می‌دهد. مشتق لی
چند تعریف برای مشتق لی یک تابع وجود دارد. مشتق
اگر formula_1 نقطه‌ای از نمودار تابع formula_2 و formula_3 نقطهٔ دیگری از این نمودار باشد، آنگاه formula_4 و شیب خط قاطع عبارت است از: تابع (ریاضیات)
بعدها مفهوم تابع توسط گوتفرید لایبنیتس در سال ۱۶۹۴ در اروپا مطرح شد که هدف آن توصیف کمیتی وابسته به یک منحنی در نقطه ای خاص بود. (مانند شیب منحنی یا مشتق) امروزه به توابعی که توسط گوتفرید لایبنیتس تعریف شدند، توابع مشتق‌پذیر می‌گوییم. قواعد دیفرانسیل گیری
در حساب دیفرانسیل برای گرفتن مشتق از یک تابع باید از یک سری قواعد پیروی کنیم. این قواعد به صورت‌های زیر طبقه‌بندی و خلاصه می‌شود. مشتق ضمنی
وقتی معادله‌ای بر حسب y و y، x را به عنوان تابعی مشتق پذیر از x تعریف کند، حتی در مواردی که نتوان y را از معادله بدست آورد، اغلب می‌توان با استفاده از قواعد مشتق‌گیری dy/dx را محاسبه کرد. در این مقاله، نحوه این عمل را نشان می‌دهیم و به اختصار به ایده نهفته در پس این روش اشاره می‌کنیم، سپس از این روش استفاده می‌کنیم و نشان می‌دهیم که قاعده توان علاوه بر نماهای صحیح برای نماهای کسری هم برقرار است. معادله x = y۲ رادر نظر بگیرید همانطور که مشاهده می‌شود معادله مذکور دو تابع مشتق‌پذیر از x را تعریف می‌کند، یکی y = √x دیگری y = -√x. برای محاسبه dy/dx به‌طور ساده از دو طرف x = y۲ نسبت به x مشتق می‌گیریم و y را به عنوان یک تابع، هر چند نامشخص، مشتق‌پذیر از x تلقی می‌کنیم. با انجام این عمل داریم: مشتق
در تابع پیوستهٔ formula_6، برای هر formula_137 اگر formula_327 آنگاه formula_6 روی formula_129 صعودی اکید است و اگر formula_330 آنگاه formula_6 روی formula_129 نزولی اکید است؛ ولی اگر formula_333 باشد، تابع formula_6 ممکن است صعودی غیر اکید یا صعودی اکید باشد و اگر formula_335 باشد، تابع formula_6 ممکن است نزولی غیر اکید یا نزولی اکید باشد. مشتق
معادلهٔ خط قائم در نقطهٔ formula_273 واقع بر منحنی: معادلهٔ خط مماس بر منحنی از نقطه‌ای خارج از منحنی: اگر بخواهیم از نقطهٔ formula_277 مماسی بر منحنی رسم کنیم، نقطهٔ تماس را formula_278 در نظر می‌گیریم، چون نقطهٔ formula_213 روی منحنی قرار گرفته از منحنی مشتق می‌گیریم و مختصات formula_213 را قرار می‌دهیم تا شیب معادله بدست آید. حسابان
به زبان صریح تر، "تابع دو برابر کننده" را می توان به صورت formula_5 نمایش داد و "تابع مربع ساز" را به صورت formula_6. اکنون "مشتق" تابع formula_7 را که با عبارت "formula_8" تعریف می شود را به عنوان ورودی می گیرد و از روی آن تابع formula_5 را تولید می کند. مشتق
به‌طور کلی، حاصل حد زیر، در صورت وجود برابر مشتق جزئی تابع چند متغیرهٔ formula_6 نسبت به formula_149 در formula_150 است: مشتق
ولی عکس قضیهٔ فوق صحیح نمی‌باشد یعنی ممکن است تابع پیوسته باشد اما مشتق‌پذیر نباشد؛ به عبارت دیگر، پیوستگی تابع در formula_68 شرط لازم برای مشتق‌پذیری تابع است، نه شرط کافی. پس اگر تابع formula_6 در formula_17 ناپیوسته باشد، آنگاه در formula_17 مشتق‌پذیر نیست. تابع هولومورفیک
این مشابه تعریف مشتق برای توابع حقیقی است، فقط همه کمیت‌هایش مختلط هستند. بخصوص، حد موقعی گرفته می‌شود که عدد مختلط به سمت میل می‌کند، و باید برای هر دنباله مقادیر مختلط برای که در صفحه مختلط به سمت میل می‌کند، مقدار یکسانی داشته باشد. اگر حد موجود باشد، می‌گوییم که در نقطه مشتق‌پذیر مختلط است. مفهوم مشتق‌پذیری مختلط ویژگی‌های مشترک زیادی با مشتق‌پذیری حقیقی دارد: خطی است و از قاعده ضرب، قاعده خارج‌قسمت، و قاعده زنجیره‌ای پیروی می‌کند. رابطه بازگشتی
این یک رابطۀ بازگشتی همگن است که می‌توان آن را با روش‌های ذکر شده حل کرد. به‌صورت کلی، اگر یک رابطه بازگشتی خطی به شکل زیر وجود داشته باشد: که در آن formula_106 ضرائب ثابت و formula_107 ناهمگنی باشد، در صورتی که formula_107 چندجمله‌ای با درجۀ formula_1 باشد، می‌توان این رابطۀ بازگشتی ناهمگن را به رابطۀ بازگشتی همگن با استفاده از روش مشتق‌گیری سمبلیک درجۀ formula_1 تبدیل کرد اگر تابع مولد ناهمگنی باشد و تابع مولد رابطۀ بازگشتی ناهمگن باشد که در آن ضرائب ثابت به روش زیر بدست می‌آیند: تابع مولد
می توان تابع مولد دنباله 0, 1, 4, 9, 16, ... از اعداد مربعی را با استفاده از ترکیب خطی از ضرایب دوجمله‌ای زیر بدست آورد : تجزیه مقدارهای منفرد
فقط بردارهای ستون t از بردارهای ردیف formula_11 و t ازformula_12 مربوط به مقادیر مفرد غیر صفر formula_2 محاسبه می‌شوند. بردارهای باقیمانده formula_11 و formula_12 محاسبه نمی‌شوند. اگر formula_92سریعتر و مقرون به صرفه تر باشد از SVD فشرده خواهد بود. ماتریس formula_11 به این ترتیب یک ماتریسformula_94 و formula_2 یک ماتریس formula_5 قطری و در نهایت formula_12 یک ماتریس formula_98 خواهد بود. مشتق پارامتری
زمانی که formula_12 و formula_13 تابع فرض می‌شوند. انتگرال‌گیری جزء به جزء
با اینکه روش بازگشتی تعریف شده درست است، معمولاً به خاطر سپردن و کاربرد آن دشوار است. غالباً روشی بسیار آسان‌تر با عناوینی نظیر «روش جدولی»، «روش مشتق و انتگرال»، «روش جز به جز پی در پی یا مکرر»، «روش هویساید» یا «تیک تاک توی» به دانشجویان آموخته می‌شود. این روش وقتی یکی از توابع "u" = "f"("x") یا "v" = "g"("x") چندجمله‌ای باشند، در بهترین شرایطش قرار می‌گیرد، چونکه پس از مشتق‌گیری‌های پی در پی تابع چندجمله‌ای صفر می‌شود. این روش برای آن دسته از توابع که خود را (پس از چند بار مشتق یا انتگرال‌گیری) تکرار می‌کنند نیز بسیار کاراست. مشتق
برای تابع formula_6 که در همسایگی نقطهٔ formula_17 تعریف شده‌است، اگر formula_18 وجود داشته باشد، formula_6 در formula_17 مشتق‌پذیر است. این حد (ریاضی) یکتا را با formula_21 نمایش داده و آن را مشتق تابع formula_6 در نقطهٔ formula_17 می‌نامند. مشتق
در این حالت برای تشخیص اکید یا غیر اکید بودن تابع formula_6 ریشه‌های مشتق را بدست می‌آوریم، اگر ریشه‌های مشتق، تمام نقاط روی یک بازه باشند، تابع صعودی غیر اکید است و در غیر این حالت صعودی اکید است. تابع درجه چهار
مشتق یک تابع درجهٔ چهار، یک تابع درجه سه است. اگر "F" و "G" دو نقطه ی عطف تابع درجه ی چهار باشند و "H" محل تلاقی پاره خطی "FG" با منحنی باشد، نزدیک تر به "G" تا "F"، آنگاه "G" پاره خط "FH" را به نسبت طلایی تقسیم می کند مشتق‌گیری لگاریتمی
مشتق‌گیری لگاریتمی برای تابع معمولاً با گرفتن لگاریتم طبیعی (لگاریتم به پایهٔ عدد e) قدر مطلق دو طرف معادله آغاز می‌شود: تابع حسابی
اگر f تابعی حسابی باشد مشتق f را برای هر عدد طبیعی n به صورت: تابع حسابی
اگر f و g دو تابع حسابی باشند حاصل ضرب دیریکله دو تابع را با f*g نشان می‌دهیم و برای هر عدد طبیعی n به صورت زیر تعریف می‌کنیم: مشتق
در روابط زیر formula_407،formula_244 و formula_409 اعداد ثابت، formula_45،formula_7،formula_412،formula_104،formula_198 متغیر و formula_415 عدد نپر است. مشتق‌گیری لگاریتمی
برای تابعی به شکل لگاریتم طبیعی توان را به ضرب تبدیل می‌کند: با اعمال قاعده زنجیری و قاعده جمع و پس از اعمال جبری و تبدیل y به تابعی از x، مشتق y به دست می‌آید: با بازنویسی "f" به عنوان تابع نمایی و اعمال قاعدهٔ زنجیری نیز می‌توان همین نتیجه را به دست آورد. حساب دیفرانسیل
مشتق تابع ، بهترین تقریب خطی ممکن آن را در نقطهٔ دلخواه ارائه می‌دهد؛ ولی این تقریب می‌تواند بسیار متفاوت از مقدار واقعی باشد. یکی از شیوه‌های بهبود تقریب، بهره‌گیری از تقریب درجه دوم است. به بیان ریاضی، تقریب خطی تابع حقیقی به صورت است، در حالی که ممکن است چندجمله‌ای درجه دوم به صورت تقریب دقیق‌تری از تابع باشد. با افزایش درجهٔ چندجمله‌ای می‌توان تقریب‌های بهتری را نیز به دست آورد. برای این چندجمله‌ای‌ها باید بهترین گزینهٔ ممکن برای تعیین ضرایب "a" و "b" و غیره موجود باشد که تقریب را تا جای ممکن بهبود بخشد. پیچیدگی محاسباتی اعمال ریاضی
توابع مقدماتی با ترکیب عملیات حسابی، تابع نمایی (exp)، لگاریتم طبیعی (log)، توابع مثلثاتی (sin، cos) و معکوس آنها ساخته می‌شوند. پیچیدگی یک تابع مقدماتی معادل با پیچیدگی معکوس آن است زیرا همه توابع مقدماتی تحلیلی هستند و بنابراین با روش نیوتن معکوس پذیرند. به ویژه اگر هر کدام از exp یا log در حوزه اعداد مختلط را بتوان با یک پیچیدگی حساب کرد آنگاه آن پیچیدگی برای همه توابع مقدماتی دیگر دست یافتنی است. تابع لجستیک
رفتار کیفی این تابع به صورت ساده به صورت خط فازی قابل فهم است: موقعی که تابع ۱ است، مشتق ۰ است، موقعی که تابع formula_8 بین ۰ و ۱ است، مشتق مثبت است، و موقعی که formula_8 بالای ۱ یا پایین ۰ است، مشتق منفی است (اگرچه جمعیت منفی معمولاً با یک مدل فیزیکی متناظر نیست). این موضوع منجر به یک تعادل غیرپایدار در نقطه ۰ و تعادل پایدار در نقطه ۱ می‌شود، و از این رو برای هر مقدار تابع بزرگتر از ۰ و کمتر از ۱، به سمت ۱ رشد می‌کند. رگرسیون مؤلفه‌های اصلی
formula_1 داده و formula_2 متغیر مستقل داریم که می‌خواهیم از طریق آنها متغیر وابسته را پیش‌بینی کنیم. این متغیرها را در ماتریس‌های formula_3 و formula_4 به شکل پایین ذخیره می‌کنیم: formula_5 formula_6 هدف از رگرسیون خطی بدست آوردن پارامتر formula_7 است به شکلی که formula_8 در اینجا formula_9 یک متغیر تصادفی است که خطای مدل را نشان می‌دهد. توزیع این خطا را معمولاً طبیعی در نظر می‌گیرند با میانگین صفر و واریانس ثابت برای تمامی ابعاد یعنی formula_10 و formula_11. از طریق روش کمترین مربعات می‌توان formula_12 یعنی مربع میزان خطاها را کمینه کرد و به پارامتر بهینه رسید. این پارامتر با formula_13 برابر است. یکی از مشکلات اصلی این روش عدم وارونپذیری formula_14 است. برای حل این مشکل رگرسیون مؤلفه اصلی، ابتدا مولفه‌های اصلی formula_15 را پیدا می‌کند و بعد داده را در راستای تعدادی از این مولفه‌های اصلی با بالاترین واریاناس‌ها منعکس می‌شوند. ابتدا از طریق تجزیه مقدارهای منفرد ماتریس formula_16 به سه قسمت تقسیم می‌شود formula_17 . در اینجا formula_18 یک ماتریس قطری از مقدارهای منفرد و formula_19 و formula_20 ماتریسهایی از بردارهای ویژه چپ و راست هستند. مقدارهای منفرد با ترتیب نزولی در ماتریس قطری قرار دارند به این معنی که formula_21. بعد از تجزیه مقدارهای منفرد formula_15 از طریق formula_23 محاسبه می‌شود. در اینجاformula_24 ماتریس مقدارهای ویژه ماتریس formula_15 است؛ این مقادیر با ترتیب نزولی در ماتریس قطری formula_26 قرار دارند، به این معنی که formula_27، و formula_28 ماتریس بردارهای ویژه formula_15 یا همان مولفه‌های اصلی formula_16 است. رگرسیون مؤلفه اصلی ابتدا formula_16 را در راستای formula_32 منعکس می‌کند و سپس رگرسیون خطی را در این فضای جدید اعمال می‌کند. اگر formula_33 ماتریس formula_34 بردار ویژه formula_15 باشد، انعکاس formula_16 بر روی formula_33 برابر است با formula_38. رگرسیون مؤلفه اصلی، از formula_39 به عنوان متغیرهای جدید مستقل استفاده می‌کند و رگرسیون خطی را بر آن اعمال می‌کند. طبق روش کمترین مربعات، پارامتر بهینه برای این داده جدید برابر است با formula_40. حال برای داده جدید formula_41 ، مدل رگرسیون ابتدا داده را با formula_42 به فضای جدید formula_43 منتقل می‌کند، سپس با formula_44 مقدار متغیر وابسته را پیش‌بینی می‌کند. اگر formula_45 آنگاه پیش‌بینی مدلformula_46 خواهد بود و با استفاده از formula_47 دیگر احتیاجی به انعکاس داده به یک فضای جدید نیست. مشتق
در سال ۱۸۰۰ میلادی نماد دیگری توسط لوییس آربوگاست معرفی شد و توسط لئونارد اویلر مورد استفاده قرار گرفت. این نماد مشتق formula_6 را به شکل formula_59 نشان می‌دهد. علامت formula_60 یک عملگر دیفرانسیلی است و این فکر را القا می‌کند که formula_59 تابع جدیدی است که با مشتق‌گیری از formula_6 بدست آمده‌است. مشتق مراتب بالاتر به صورت formula_63 و مقدار آن در formula_7 به صورت formula_65 نوشته می‌شود. مشتق لی
با انتخاب مختصات "x" و با نوشتن :formula_8 که در آن formula_9 بردارهای یکه برای دسته(باندل) مماس‌ها هستند٬ خواهیم داشت: