공부 📖 썸네일형 리스트형 TensorFlow Word2Vec 살펴보기 1. Word2Vec 1.1 Word2Vec Word2Vec은 단어 간 유사성을 고려하기 위해서 단어의 의미를 벡터화 한다. http://w.elnn.kr/search/ 위 사이트는 한국어로 Word2Vec 연산을 해볼 수 있는 사이트이다. 더하기, 빼기 연산을 테스트 해볼 수 있다. 한국-서울+도쿄 = 일본 신기하게도 단어가 갖고있는 의미들을 가지고 연산을 하고 있는 것처럼 보인다. 이러한 연산이 가능한 이유는 각 단어에 있는 어떤 상징성, 의미가 벡터로 계산되었기 때문이다. Word2Vec에는 CBOW, Skip-Gram 두 가지 방식이 있는데 여기서는 Skip-Gram를 사용한다. 전반적으로 Skip-Gram이 CBOW보다 성능이 좋다. Skip-Gram은 중심 단어에서 주변 단어를 예측하는 것이 .. TensorFlow 신경망 레이어 추가 Deep NN 1. Deep NN 1.1 Summary 입력층(input layer)에는 각각의 입력 변수가 1:1로 매칭되는 뉴런(neuron)이 존재한다. 히든층(hidden layer)에는 입력층의 뉴런과 가중치(weight)의 결합으로 생성되는 뉴런이 존재하며, 히든층에서의 층의 개수에 따라 모형의 복잡도가 결정되고 히든층의 개수가 2개 이상이 되는 경우 deep neural network 또는 deep learning이라고 칭한다. 출력층에는 히든층에서의 뉴런과 가중치가 결합하여 생성되는 뉴런이 존재하며, 예측하고자 하는 종속변수의 형태에(numeric, binary or multinomial) 따라 출력층의 개수가 결정된다. 히든층과 출력층에 존재하는 뉴런은 이전 층에서의 입력값과 가중치를 합(summati.. TensorFlow분류(Classification), relu, Cross-Entropy 1. Classification 1.1 Summary 분류(Classification)은 데이터를 입력 받아 해당 데이터를 분류하는 모델이다. MNIST, CIFAR가 대표적인 데이터셋이다. ※데이터셋: 딥러닝 모델을 위한 공개된 데이터를 말한다. Ex. MNIST, CIFAR가 대표적이다. ‘0’이 적힌 사진을 0으로 출력한다. 이번 모델은 사진을 분류하는 것은 아니고 털, 날개의 유무에 따라 기타, 포유류, 조류를 분류하는 모델을 만드는 것이 목표이다. 1.2 Source Code 아마 정확도 100%는 나오지 않을 것이다... # 털과 날개가 있는지 없는지에 따라, 포유류인지 조류인지 분류하는 신경망 모델을 만들어봅니다. import tensorflow as tf import numpy as np .. TensorFlow constant, Variable 알아보기 1. Tensorflow 시작 1.1 Tensorflow Install TensorFlow를 사용하기 전에 설치부터 하자. 앞으로 나올 참고 자료들의 출처: https://github.com/golbin/TensorFlow-Tutorials GPU가 있다면 GPU 버전으로 설치 or GPU가 없다면 CPU 버전으로 설치 Using CPU: pip install tensorflow Using GPU: pip install Tensorflow-gpu tensorflow-gpu 설치 이전에 CUDA, cuDNN을 설치해야만 한다. 1.2 Basic # 텐서플로우의 기본적인 구성을 익힙니다. import tensorflow as tf # tf.constant: 말 그대로 상수입니다. hello = tf.cons.. TensorFlow 구조 1. Tensorflow 구조 1.1 Graph Tensorflow는 그래프 구조로 이루어져 있다. 컴퓨터공학에서 말하는 그래프란 쉽게 말해 node(노드)와 edge(엣지)로 이루어진 구조이다. 각 그래프에는 노드 간에 의존관계(dependency)가 존재한다. 따라서 의존관계를 이용해 연산량을 최소화할 수 있다. 아래는 Tensorflow의 Graph 작동 원리를 보여준다. (https://www.tensorflow.org/guide/graphs) 사실 너무 추상적인 내용이어서 이해가 잘 안갔다. 더 찾아보자! 텐서는 그래프를 통해 노드에서 노드로 이동(flow)한다. 따라서 Tensorflow를 이용할 때는 그래프를 먼저 생성하고 세션을 만들고 실행하는 과정을 거친다. 1.2 기본 개념 Rank(랭.. 텐서플로우 소개 1. Tensorflow 소개 1.1 개요 Google에서 2015년 11월에 공개한 기계 학습 Library이다. 무려 4년동안 개발한 작품이다. 1.2 특징 텐서플로우는 다음과 같은 특징을 가진다. 데이터 플로우 그래프를 통한 풍부한 표현력 아이디어 테스트에서 서비스 단계까지 이용 가능 계산 구조와 목표 함수만 정의하면 자동으로 미분 계산을 처리 Python, C++, Go, Java, R을 지원하며, SWIG를 통해 다양한 언어 지원 가능 1.3 Using CPU or GPU Tensorflow를 CPU와 GPU 두 가지 버전을 지원한다. 당연히 GPU 사용하는 것이 빠르다. 혹시나 NVIDIA GPU를 가지고 있다면 CUDA, cuDNN 드라이버를 추가로 설치해야 한다. 또한 윈도우, 우분투 등 .. 인공지능, 머신러닝 딥러닝 알아보기 1. Summary 1.1 인공지능의 정의 인공지능(AI, artificial intelligence)은 의외로 역사를 가지고 있는 분야이고 어떻게 학습이 되는지 조차 제대로 설명하기 힘든 분야이다. 인공지능의 대가 Tom Mitchell은 " 만약 컴퓨터 프로그램이 특정한 태스크 T를 수행할 때 성능 P 만큼 개선되는 경험 E를 보이면 그 컴퓨터 프로그램은 태스크와 성능 P에 대해 경험 E를 학습했다라고 할 수 있다.” 라고 인공지능을 정의 하였다. 1.2 인공지능의 역사 인공지능은 1940년대 후반과 1950년대 초반에 이르러서 수학, 철학, 공학, 경제등 다양한 영역의 과학자들에게서 인공적인 두뇌의 가능성이 논의되었다. 1956년에 이르러서, 인공지능이 학문 분야로 들어섰다.(Wikipedia) 이.. PySC2 Agent에 reward 사용하기 Reward를 사용하여 Agent를 학습시키는 것이 목표입니다. 전 튜토리얼 까지는 Agent가 흥미로운 결과를 가졌음을 알았을 것이다. 해병이 밖으로 나오기를 기다리며, 유닛이 등장 할 때까지 기다려 Agent는 보상을 얻으려고 할 것이다. 이번 튜토리얼에서는 reward를 사용할 것이다. 쉽게 말해 Agent는 게임에서 승리하였을 때 reward를 1를 주고 지게되면 -1를 준다. 더 많은 학습을 필요로 하지만 최종 결과는 승리를 많이 하게 될 것입니다. 시작 Library와 변수를 사용한다: import random import math import os.path import numpy as np import pandas as pd from pysc2.agents import base_agent f.. 이전 1 2 3 다음
