프로젝트+스터디6 [논문리뷰] Attention Is All You Need https://arxiv.org/abs/1706.03762 Attention Is All You Need The dominant sequence transduction models are based on complex recurrent or convolutional neural networks in an encoder-decoder configuration. The best performing models also connect the encoder and decoder through an attention mechanism. We propose a new arxiv.org 들어가기 전에, 제목에 Attention 메커니즘이 나오는만큼, Attention 메커니즘에 대해 알고 시작하면 도움이 될 것 같다.. 2024. 4. 4. ML 스터디_1일 ▶️ 머신러닝에서의 학습? 1. 지도 학습(supervised learning) - 문제와 정답을 함께 학습하여 예측 또는 분류하는 방식입니다. - 데이터의 정답에 영향을 미치는 특성들을 입력 변수/독립 변수(x)라고 하고, 레이블(정답)을 출력 변수/종속 변수(y)라고 합니다. - 연속형 출력 변수의 경우에는 회귀 기술을 사용하고, 범주형 출력 변수의 경우에는 분류 기술을 사용합니다. 2. 비지도 학습(Unsupervised Learning) - 출력 변수(y)가 없고, 입력 변수(x) 간의 관계를 모델링합니다. - 클러스터링과 같은 군집 분석이나 association과 같이 데이터의 패턴이나 구조를 파악하는데 이용, PCA와 같이 차원을 줄이는 분석기법입니다. 3. 강화 학습(Reinforcement.. 2024. 3. 22. 자연어 처리 챗봇 프로젝트 _ 챗쪽이 자연어 처리를 배우면서 진행하게 된 챗봇 프로젝트 1. 주제 선정 주제를 선정하면서 내가 집중한 것은 gpt와 같은 성능이 좋은 챗봇이 많은 지금, "굳이 내가 만든 앱을 사용해보고 싶은 이유"를 만들기였다. 한달이 안되는 시간 안에 두명이서 데이터를 작성하고 모델 학습과 서버 구축을 완료해야 했다. 강사님께서 짧은 시간안에 챗봇의 높은 정확도를 기대하기는 어렵다고 조언을 해주셨기 때문에 성능보다는 흥미를 자극하는 주제를 생각해보았다. 그렇게 후보로 간추려진 세가지 주제 > 시간 여행자 컨셉으로 역사적 시기를 지정하면 해당 시대의 사람과 대화하는 챗봇 > 반려동물의 행동을 얘기하면 훈련이나 질병 관련 조언을 주는 챗봇 > 나와 배우자의 성격을 입력하면 그에 기반하는 아이성격을 생성해서 대화해볼 수 있는 .. 2024. 3. 15. AI기반 OCR프로젝트 마지막 - 후처리 알고리즘 https://junyealim.tistory.com/127 AI기반 OCR프로젝트 2 - 모델 선정 및 학습 https://junyealim.tistory.com/126 AI기반 OCR 프로젝트_주제선정 웹개발 프로젝트와 자연어 처리 프로젝트가 끝나고, 이어서 진행이 된 OCR 프로젝트. 총 5명의 구성으로 팀을 짜서 진행을 하게 되었다. 프 junyealim.tistory.com ✅ 모델 선정 : YOLOv5s 사용 ✅ 데이터 선정 및 정제 : 현실적인 시간과 컴퓨터 리소스 문제로 데이터 선정 및 정제 ✅ 시스템 및 프론트 구성 : 과적차량 탐지 ▶️ 번호판 위치 인식 ▶️ 번호판 읽어오기 1. 서버 구축 우선 우리팀이 목표하는 시스템은 도로 위의 과속 단속 카메라를 이용한다는 가정하에, 실시간으로 .. 2024. 3. 12. AI기반 OCR프로젝트 2 - 모델 선정 및 학습 https://junyealim.tistory.com/126 AI기반 OCR 프로젝트_주제선정 웹개발 프로젝트와 자연어 처리 프로젝트가 끝나고, 이어서 진행이 된 OCR 프로젝트. 총 5명의 구성으로 팀을 짜서 진행을 하게 되었다. 프로젝트는 AI 기반이지만 당시 수업 진도는 CV(computer vision junyealim.tistory.com ✅ 주제 선정 : 과적 차량을 자동으로 감지하고 기록하는 시스템 ✅ 활용 데이터 : 과적차량 도로위험 데이터 ▶️ 과적 차량 탐지 가능 자동차 차종/연식/번호판 인식용 영상 ▶️ 번호판 위치 탐지 가능 ✅ OCR모델 테스트 : 번호판 위치에서 perspective로 확대 후 번호 읽어올 수 있음을 확인 ▶️ Paddle 모델 선정 1. 모델 선정(YOLO) 과.. 2024. 3. 12. AI기반 OCR 프로젝트 1_주제선정 웹개발 프로젝트와 자연어 처리 프로젝트가 끝나고, 이어서 진행이 된 OCR 프로젝트. 총 5명의 구성으로 팀을 짜서 진행을 하게 되었다. 프로젝트는 AI 기반이지만 당시 수업 진도는 CV(computer vision) 단계였고, AI 모델들에 대한 지식이 없는 상태에서 기획을 먼저 시작하다보니 🤔 , 다들 주제를 잡는데 어려움을 느끼고있었다. 우선 강사님께서 "아무래도 시간이 정해져있는 프로젝트다 보니" 자연어 처리때처럼 데이터를 직접 만드는데는 한계가 있다고 하시면서, "최대한 데이터를 충분히 구할 수 있는 주제"를 잡으라고 힌트를 주셨다. 그리고 이전 기수가 진행했던 프로젝트를 보면서 대충 어떤 방식으로 진행이 되는지 감을 잡아갔다. 그 당시 cv로 다양한 영상 처리 기법을 배우고 있었기 때문에, 전.. 2024. 3. 12. 이전 1 다음
