기계학습3 31번째 이야기 - 모의 담금질(Simulated Annealing) 알고리즘, 경사하강법, gradient descent ● 두 번째로 보폭을 넓게 해서 작은 봉우리를 뛰어넘어 혹시 있을지 모르는 더 낮은 최소점으로 향할 수 있는 여지를 남겨둡니다. ● 세 번째로, 출발점을 무작위로 여러 초기 값으로 세팅을 해 놓고 각기 시뮬레이션하여, 가장 최소점이 낮은 가중치의 값을 구하는 방법을 취하기도 합니다. 집단 지성의 힘입니다. ● 네 번째의 방법은 모의 담금질(Simulated Annealing) 알고리즘이라 불리는 것인데, 의도성을 가지고 나쁜 방향을 일부러 선택하게 하는 것입니다. 여기에서는 산을 올라가는 행위가 되겠군요. 되려 나쁜 행위가 작은 봉우리를 벗어날 여지를 줍니다. ● 탐색의 초반에는 일부러 나쁜 행동을 할 수 있는 확률을 높여서 탐색을 통해 전체 지형에 대한 이해를 높이고, 탐색의 후반으로 갈수록 나쁜 행동.. 2022. 11. 21. 29번째 이야기 - 머신러닝, 기계학습, 준지도학습, 자기주도학습 ● 머신러닝이란 용어가 이제는 낯설지만은 않습니다. 기계학습이라는 의미로 인공지능을 구현하기 위한 방법이죠. 컴퓨터가 학습하는 방식 혹은 그에 관한 연구를 총칭합니다. ● 현실 세계는 매우 복잡다단합니다. 그래서 모델이 필요합니다. 모델은 현실 세계의 본질이나 핵심을 나타내는 모형입니다. 이 모델을 만드는 작업을 모델링한다고 표현합니다. ● 단순화 즉, 모델링은 여러모로 유익이 있습니다. 물론 너무 단순화시키면 언더 피팅되어 현실을 충실히 반영하지 못하게 되지만, 적정하게 단순화한다면 계산 복잡도를 줄여주어 수학적인 해결을 가능하게 합니다. ● 결국, 모델을 만들 때 가장 중요한 것은 단순화하여 계산 복잡도를 줄여주면서도, 현실을 잘 반영하여 분제를 해결(분류, 예측, 최적화 등)할 수 있게 하는 것입니.. 2022. 11. 21. 22번째 이야기 - 무작위 대입법, 지능형 검색법, 무어의 법칙 ● 많은 사람들은 현실과 이상의 괴리에서 오는 어려움에 직면하곤 합니다. 생각하는 기계를 구현하고자 하는 사람들에게도 이러한 어려움은 늘 있어왔습니다. ● 인공지능의 선구자들은 다트머스 회의에서 자연어로 대화하고, 스스로 성능을 개선할 줄 알며, 추상적 개념을 이해하는 기계를 만들고자 했습니다. 그리고 상당 부분의 분야에서 그 해 여름이 가기 전, 진일보한 성과가 있을 것이라고 기대했습니다. ● 그러나 연결주의의 아성을 무너뜨린 기호 주의마저 인간처럼 생각할 줄 아는 기계를 만드는 데 한계를 드러냅니다. 세간의 거대한 관심은 이내 실망감으로 변하였고, 진정한 인공지능의 겨울이 시작되었습니다. 연구 자금은 끊기고, 연구의 동력이 소실된 것이죠. ● 이와 동시에 기초 과학에 대한 관심이 사그라들면서 응용과학.. 2022. 11. 4. 이전 1 다음
