본문 바로가기

Ai15

[인공지능개론] Regularization 머신러닝 시스템을 분류하는 또다른 방법은 입력 데이터의 stream으로부터 점진적으로 학습할 수 있는지의 여부에 따라 batch learning와 online learning으로 구분하는 것이다. Batch Learningbatch learning에서는 시스템이 점진적으로 학습할 수 없다. 가용한 데이터를 모두 사용해서 훈련해야 하며 일반적으로 많은 시간과 자원을 소모하므로 보통 오프라인 환경에서 수행된다. batch learning에서 새로운 데이터가 들어왔을 때 새로운 데이터뿐만 아니라 이전 데이터도 포함한 전체 데이터에 대해 학습시켜야 한다. 그런 다음 이전 시스템을 중지시키고 새 시스템으로 교체한다.Oneline Learningoneline learning에서는 데이터를 순차적으로 한개씩 또는 m.. 2024. 5. 8.
[인공지능개론] Neural Networks② XOR 혹은 XNOR problem은 선형 모델로 즉, Single-Layer Perceptron(SLP)으로는  해결할 수 없다. 이를 해결하기 위해서 Multi-Layer Perceptron(MLP)를 도입해야 한다. SLP에서는 hidden layer가 없었다면, MLP에서는 hidden layers(latent layers)가 존재하며 hidden layer의 수가 neural network의 복잡도를 결정한다. 이를 deep neural network 라고도 한다.Multi-Layer Perceptron: Hidden Layer가 있는 모델Simple Example: XNOR, XOR ProblemXNOR Problem:$y=$($x_1$ AND $x_2$) OR ((NOT $x_1$) AND .. 2024. 5. 8.
[인공지능개론] Neural Networks① Neural Networks는 스스로 학습하는 인간의 뇌를 모방한 알고리즘이다. 시스템에는 입력과 출력이 존재한다. 인간의 뇌는 입력을 받아 이웃하는 뉴런으로부터의 가중치를 곱하여 합하는 weighted sum을 하여 전달하고 threshold와 비교하여 그보다 크면 1 아니면 0의 step function으로 전달하는 시스템과 닮아있다. Dendrites : input for signalsAxon : output (signal transmission)Synapse : determine weight of the signal from the axon (어느정도의 강도로 전달)Soma : decide on whether to transmit signals to other neurons (전달 여부 결정)기본.. 2024. 5. 7.
[인공지능개론] Regression④ 앞서 Linear Regression을 PyTorch로 구현했던 것처럼, Logistic Regression과 Softmax Regression도 PyTorch로 구현해보자. 이것도 직접 작성할 수도 있고 torch.nn 모듈을 활용하여 쉽게 구현할 수도 있다.Logistic Regression직접 작성한 코드를 먼저 확인해보자.import torchimport torch.nn as nnimport torch.nn.functional as Fimport torch.optim as optimx_data = [[1,2], [2,3], [3,1], [4,3], [5,3], [6,2]] //input dimension = 2y_.. 2024. 5. 7.

티스토리툴바