본문 바로가기

AI32

비선형 활성화 함수 1. 비선형 활성화 함수(Activation Functions) 비선형 활성화 함수는 신경망에서 사용되는 함수로, 주로 입력값에 비선형성을 추가하여 신경망이 복잡한 비선형 관계를 학습할 수 있도록 도와줍니다. 이 함수들은 신경망의 각 뉴런에 적용되어 그 결과를 생성합니다. 선형 함수는 입력값과 가중치를 곱한 결과를 그대로 출력하기 때문에, 여러 층의 선형 함수를 사용하면 결국 전체 네트워크가 하나의 선형 함수로 표현될 수 있습니다. 이는 층을 여러 번 쌓아도 신경망의 복잡성이 증가하지 않는다는 의미이며, 복잡한 패턴을 학습하는 데 한계가 있습니다. 비선형 활성화 함수를 사용함으로써, 각 뉴런의 출력이 비선형 관계를 나타낼 수 있습니다. 이를 통해 신경망은 다양한 데이터의 패턴을 학습할 수 있게 됩니다. .. 2024. 1. 10.
딥러닝 1. 뉴런(neuron) 1-1. 생물학적 뉴런 인간의 뇌는 약 수십억 개의 뉴런으로 이루어져 있습니다. 이 뉴런들은 화학적 및 전기적인 신호를 처리하고 전달하는 연결된 뇌 신경 세포입니다. 뇌의 복잡한 네트워크에서 각 뉴런은 다른 뉴런들과 상호 작용하며 정보를 처리하고 전달합니다. 1-2. 인공뉴런 1943년에 워렌 맥컬록과 월터 피츠는 생물학적 뉴런의 단순화된 모델을 제시했습니다. 이 모델에서 뉴런은 이진 출력을 갖는 단순한 논리 게이트로 설명되었습니다. 인공 뉴런은 이러한 개념을 바탕으로 하여, 각 뉴런이 입력을 받아 개별적으로 가중치를 곱한 후 그 합계를 비선형 함수로 전달하여 최종 출력을 생성하는 수학적 기능을 수행합니다. 이는 생물학적 뉴런의 동작을 모방하면서도 수학적으로 효과적인 정보 처리를.. 2024. 1. 9.
데이터 로더 1. 데이터 로더(Data Loader) 머신러닝 및 딥러닝 모델을 훈련시키거나 테스트할 때 일반적으로 데이터는 모델에 배치(batch) 단위로 공급됩니다. 데이터 로더는 이러한 배치를 효과적으로 생성하여 데이터의 양이 많을 때 모델이 효율적으로 학습하도록 지원합니다. 2. 손글씨 인식 모델 만들기 import torch import torch.nn as nn import torch.optim as optim import torchvision.transforms as transforms import matplotlib.pyplot as plt from sklearn.datasets import load_digits from sklearn.model_selection import train_test_spl.. 2024. 1. 9.
파이토치로 구현한 논리회귀 x_train = torch.FloatTensor([[0], [1], [3], [5], [8], [11], [15], [20]]) y_train = torch.FloatTensor([[0], [0], [0], [0], [0], [1], [1], [1]]) print(x_train.shape) // torch.Size([8, 1]) print(y_train.shape) // torch.Size([8, 1]) 1. 단항 논리회귀(Logistic Regression) 실습 단항 논리회귀(Logistic Regression)는 주로 이진 분류 문제에 사용되는 간단하면서도 효과적인 통계 기반의 머신러닝 알고리즘입니다. 선형 회귀 공식으로부터 나왔기 때문에 이름에 "회귀"가 포함되어 있지만, 사실은 분류 알고리즘이.. 2024. 1. 8.
기온에 따른 지면 온도 예측 # df에 데이터 프레임으로 불러오기 import numpy as np import pandas as pd import seaborn as sns import matplotlib.pyplot as plt temp_df = pd.read_csv('/content/drive/MyDrive/KDT/머신러닝과 딥러닝/data/temps.csv',encoding='ms949') temp_df.info() RangeIndex: 8782 entries, 0 to 8781 Data columns (total 5 columns): # Column Non-Null Count Dtype --- ------ -------------- ----- 0 지점 8782 non-null int64 1 지점명 87.. 2024. 1. 8.
파이토치로 구현한 선형회귀 1. 단항 선형 회귀 실습 단항 선형 회귀는 하나의 독립 변수와 종속 변수 간의 선형 관계를 모델링하는 통계적 기법입니다. import torch import torch.nn as nn import torch.optim as optim import matplotlib.pyplot as plt torch.manual_seed(2024) # 동일한 시드를 사용하는 경우 항상 동일한 난수가 생성 x_train = torch.FloatTensor([[1], [2], [3]]) y_train = torch.FloatTensor([[2], [4], [6]]) print(x_train, x_train.shape) tensor([[1.], [2.], [3.]]) torch.Size([3, 1]) print(y_trai.. 2024. 1. 8.

티스토리툴바