코딩 개발일지

기획 1. 매일 12시에 [네이버뉴스-TV연예-랭킹] 부분의 TOP10을 가져온다. 2. 크롤링해서 가져오는 과정에서 머신러닝(Chat GPT)을 활용해서 기사내용을 요약한다. 3. 해당 기사를 데이터베이스에 저장한다. 4. 로그인 해서 댓글을 자유롭게 달 수 있다. 좋아요 / 북마크 가능. 닉네임 옆에 MBTI가 표기되서 보는 재미가 있다. 크롤링할 페이지 : https://entertain.naver.com/ranking 와이어프레임 ERD API 설계 프로젝트 시작 후 어려움을 겪은 부분 크롤링을 처음하다보니, 한발 한발 나아가는게 힘들었다... selenium을 이용해서 크롤링을 하는게 가장 보푠적이고, 좋기도 하고, 편한 방법이다. 1. pip install selenium 2. 프로젝트 파일 ..

CNN 사용할땐 import 해줄게 좀 더 많아진다. Conv2D, MaxPooling2D, Flatten, Dropout 를 추가로 해줬다. from tensorflow.keras.layers import Input, Dense, Conv2D, MaxPooling2D, Flatten, Dropout reshape 부분이 CNN을 쓸 때, 약간 달라진다. 기존 것들보다 차원이 높아진다라고 생각하면 된다. train_df = train_df.astype(np.float32) x_train = train_df.drop(columns=['label'], axis=1).values x_train = x_train.reshape((-1, 28, 28, 1)) y_train = train_df[['label']]...

Convolutional Neural Networks (합성곱 신경망) 합성곱(Convolution) 의 개념 이해하는 그림 1. [왼쪽 네모] X [오른쪽 네모] 각 요소들을 대응되게 곱한다. 2. 곱한 값을 모두 더한다 즉, 2+0+3+0+1+4+3+0+2=15 논문에서 이 방식을 이용한 디자인을 CNN 이라고 칭하였고, 이미지 처리에서 엄청난 성능을 보이는 것을 증명했다. 아직까지도 보편적으로 쓰이고, 이 논문발표 이후 딥러닝의 전성기가 시작됬다고 할 수 이따~~ 아래의 예시를 한번 살펴보자 입력 이미지 크기: (10, 10, 3) 필터의 크기: (4, 4, 3) 필터의 개수 :2 출력 특성 맵의 크기: (10, 10, 2) 보통 padding 또는 margin을 줘서 디자인을 하게 된다. 이런식으..

우리가 지금까지 배운 선형회귀와 논리회귀만으로는 결코 실무에서 쓸 수는 없는게 당연함. 선형회귀를 아무리 반복해봤자 비선형이 되는게 아니기때문에, 선형회귀 사이에 비선형의 무언가를 넣어야한다고 생각하게 된거다 !!! 딥러닝에서는 비선형 함수를 활성화 함수라고 한다. 딥러닝의 주요 개념과 기법 배치 사이즈와 에폭 활성화 함수 과적합과 과소적합 데이터 증강 드랍아웃 앙상블 학습률 조정 Deep Neural Networks 구성 방법 Input layer(입력층): 네트워크의 입력 부분. 우리가 학습시키고 싶은 x 값 Output layer(출력층): 네트워크의 출력 부분. 우리가 예측한 값, 즉 y 값 Hidden layers(은닉층): 입력층과 출력층을 제외한 중간층입니다. 여개로 구성되어있다. 각 lay..

논리 회귀 (Logistic regression) 선형 회귀로 풀기 힘든 문제의 등장 ex) 대학교 시험 전 날 공부한 시간을 가지고 해당 과목의 이수 여부(Pass or fail)를 예측하는 문제 0 or 1 밖에 없기 때문에, 직선형 그래프는 그릴 수 없다. 다른 방법이 필요했는데 바로 Logistic function( = Sigmoid function)을 사용하면 아래와 같이 만들 수 있다. 이 경우에서의 손실함수는 다음과 같다. 이렇게 가로축을 라벨(클래스)로 표시하고 세로축을 확률로 표시한 그래프를 확률 분포 그래프라고 한다. 확률 분포 그래프의 차이를 비교할 때는 Crossentropy 라는 함수를 사용한다. 즉, 임의의 입력값에 대해 우리가 원하는 확률 분포 그래프를 만들도록 학습시키는 손실..

선형회귀 선형(linear)이란 말을 생각해보자. 그래프에서 직선을 긋고 그 직선을 토대로 x값에 대응하는 y값을 예측하는것을 선형회귀라고함. 우리는 정확하게 예측하기 위해 우리가 만든 임의의 직선(가설)과 점(정답)의 거리가 가까워지도록 해야한다. ( = mean squared error) 그 거리가 최소화될수록 잘 학습되었다. 라고 말할 수 있는 것이다. 입력변수가 여러개면 다중선형회귀라고 하고, 원리는 똑같다. 실무에서도 직선이 아닌 매우 고차원의 그래프를 그리게 되지만, 결국 원리는 전부 1차함수에서 비롯된다. 왜냐하면, 고차원도 결국 직선의 연속을 합쳐서 만든 것이기 때문이다. 접선을 생각하면 이해하기 쉬울듯? 따라서 간단한 선형 회귀 문제의 경우는 그래프를 그릴 수는 있지만 실무에서 복잡한 가..