세상일을 살다보면 최적의 값을 구해야 하는 일이 존재한다. 물건의 가격을 정한다거나 물건의 규격, 최적의 온도 등 다양한 예시가 존재하고 이를 위해서는 최적의 값이 필요하다. 이 최적의 값을 구하기 위해서는 함수의 극댓값과 극솟값을 이용해야 한다.
이 최적의 값을 구하기 위해서는 함수의 극댓값과 극솟값을 이용해야 한다. 최적화의 대상이 되는 함수를 목적 함수라 하는데, 이 목적값의 극값을 구하는 것이 관건이다. 만약 총 비용이 우리가 아는 함수로 주어진다면 두말하지 않고 그 함수를 미분해서 미분값이 0이 되는 지점을 찾으면 된다. 하지만 이러한 목적 함수는 현실에서 우리가 알고 있는 함수 꼴로 친절하게 주어지진 않는다. 주어진x 값에 따라 함수값을 구할 수 있을지언정 수학적인 함수식으로 주어지는 경우는 거의 없다. 앞으로 무작위로 나올 함수에 대해 컴퓨터를 사용하게 될 것이고 컴퓨터는 자체 라이브가 잇어 함수 이름만 알면 호출해서 값을 구할 수 있다. 극값을 찾는 가장 원시적인 방법은 아무 x값이나 여럿 넣어보면서 가장 큰 결괏값을 찾는 것이다. 무론 효율적인 방법은 아니다. 그러니 아무 x값이나 무작위로 넣기보다는 효율적인  전략이 필요하다.
비를 빠르게 달려갔을때 덜 맞는 다는 속설이 있다. 이 문제에 대해 이동속도에 따라서 목적함수인 비 맞는 양을 최소화 하는 조건을 찾기 위해 믿거나 말거나 그동안 많은 과학자가 여러가지 연구를 해왔다. 사람이 휩쓸고 간 체적을 중심으로 고찰한 연구, 빗방울 격자 개념을 도입한 연구, 바람의 속도 등 변수들의 영향을 살핀 연구, 실제 인공 비를 만들어 비를 맞는 옷의 무게를 측정한 연구등 꽤 많았다. 사실 바람이 부는 속도나 방향, 비가 내리는 양과 낙하속도 사람이 뛰는 자세와 체형 등 여러 변수에 따라서 해석 방법과 결과가 달라진다. 일반적으로 빨리 뛰어가는 게 비를 덜 맞는 다는 것으로 나타났다. 이를 인공지능에 적용하면 인공지능이 예측한 결과와 실제 결과 사이의 오차를 솔실함수라 하는데 기계학습이란 결국 손실함수를 최소화하는 직업이다. 손실함수를 목적함수로 하는 극솟값 문제이다. 데이터는 들쭉날쭉해도 대체적으로 면적이 클 수록 올라간다는 회귀분석을 진행하여 데이터 점즏을 가장 잘 대표하는 직선을 추세선이라 한다. 이때 데이터 값이 많아질수록 함수의 형태로 주어지는 것이 아니라 수많은 데이터 값을 입력하고 미분하면서 극값을 찾아야 하기 때문에 계산량이 많이지기 때문에 손실함수를 최소화하는 다양한 최적화알고리즘인 확률적 경사하강법이 사용된다.