ㅇㅇ

우분투, 파이썬, 텐서플로우, 넘파이, 도커, 통계, 컴퓨터구조 등 회사일을 하면서 얻은 모든 지식을 여기다가 정리한다.

Ubuntu 명령어 모음

:

du -sh * # 현재 폴더 용량 확인

FDISK

:

mount

:

달린 device list보는 법

parted -l

fdisk -l

mkdir /home/id/data

mount /dev/sdc1 /home/id/data

즉 폴더만들고 parted -l로 새로 단 장비의 device 이름(sda,sda,sdc)를 보고 그 내부에 partition번호(1,2,3,...)을 보고 해당 partition을 지정한 폴더(/home/id/data)에 mount시킨다. 

Vim 명령어 모음

정규표현식 모음

Discard Data or Fix Data

Feature Engineering은 다음으로 구성되어 있다.

feature selection, feature extraction, feature scaling, create new feature

No Free Lunch Theorem In Machine Learning

:데이터에 대한 어떠한 가설도 없다면, 어떤 모델을 다른 모델보다 더 좋아할 이유가 없다. 따라서 데이터에 대한 도메인 지식이 반드시 필요하다는 것.

Dropout시

tf.placeholder_with_default쓰기(값 안넘기면 default값(1로 두고)을 사용함으로써 test할 때랑 train할 떄 구분 지어줌)

SVM(Support Vector Machine)

:데이터를 뿌려놓고 확률을 생각하지 않고 decision boundary를 구하는 방법

decision boundary를 margin(decision boundary과 가장 가까운 점(a training instance)과의 거리)이 크게 찾고 싶은 것

decision boundary를 support하는 vector를 찾는 것이 목표(결국 너비가 가장 큰 road에 걸려져있는 vectors를 support vector라 한다.)

wx+b가 양수가 나오면 w방향으로의 점들임(w는 평면의 법선벡터)

confidence level = y_i(wx_i+b), y_i는 positive case에 1, negative case에 -1을 assign, 이렇게 함으로써 모든 training instances에 대해 confidence level은 항상 양수

confidence level이 최대가 되게하는 (w,b)를 찾는게 목표(임의의 training instance에 대해 모두다 wx+b=0인 평면에 정사영 시킨 벡터로 벡터를 분리해서 보면 바로 이해가 됨)

x_0와 decision boundary와의 거리는 (wx_0+b)/||w||가 된다. 

만약 decision boundary가 존재한다면, 그리고 그때 support vectors를 wx_1+b = a, wx_2 + b = -a라 하자. (a는 임의의 양수)

그럼 다음과 같은 optimization problem이 된다.

max over (w,b) 2a/||w|| s.t. (wx_j+b)y_j >= a for all j in training instance

a를 편의상 1로 두고 역수취해 min 문제로 바꾸면

min over (w,b) ||w|| s.t. (wx_j+b)y_j >= 1 for all j in training instance

즉 quadratic programming(w의 크기->2차)

Hard margin SVM이란, 어떠한 error case도 허용하지 않는 것

Soft margin SVM이란, error case에 penality를 줌(즉 허용하되 penalty를 부여, decision boundary와 떨어진 거리에 비례하게 혹은 error case의 개수만 고려)

Hard margin SVM은 현실에서 구현이 힘듦(대개는 에러가 생김), Hard나 Soft모두 linear decision boundary를 찾는게 목표, 어쨌든 선형 decision boundary를 찾아야하는데 error case가 생긴다면 Soft margin SVM써야함

Kernel Trick을 이용하면 Hard Margin이면서 nonlinear decision boundary를 찾을 수가 있음.(데이터의 원래 차원에선 nonlinear이지만, feature mapping에 의한 차원 확장 공간에선 linear decision boundary임)

Soft margin SVM에서 

penalty상수에다가 error case 개수를 min에 추가하는 방법이 있을 수 있다. 이건, 모든 error case가 동등하게 penalty줘야하는 경우

penalty상수에다가 support vector를 넘어서는 순간부터 penality를 주는 형태가 있다.

전자는 0/1 loss(decision boundary를 넘어서는 순간부터 error줌), 후자는 hinge loss(decision boundary를 넘지 않았어도 support vector를 넘어서면 penalty 부과)

0/1 loss인 경우가 잘 쓰이지 않는 2가지 이유, 형평성문제(아주 틀린놈이랑 조금 틀린놈이랑 같은 취급), quadratic programming 구현이 어려움

후자에서 hinge loss인 경우 optimization problem은 다음과 같다.

min over (w,b) (||w||+C*sum over all j ξ_j s.t. y_j(wx_j+b) >= 1- ξ_j and ξ_j >=0 for all j in training instances.

(여기서 1-ξ_j를 이해하는게 관건, 원래는 >=1이었는데, >=1-ξ_j란 원래 있어야할 >=1영역보다 떨어진 정도를 1-ξ_j 로 나타낸 것)

후자는 Quadratic Programming이 쉽게 풀림 ξ_j를 slack variable(부가변수)라 한다.

Constraints를 Soften했다고 해서 Soft margin SVM이라 하는 것

Kernel Trick이란, 다른 차원으로 보내서 내적으로 정의되어있지만, 다른 차원으로 보내는 feature mapping function을 구하지말고 구하는 방법을 가리킨다. lagrange multiplier를 구하는 dual

https://www.youtube.com/watch?v=dP9CDyR0L3E

이거부터 보면서 마무리 정리하면 됨

Quadratic Programming

:다변수, 차수는 최대 2차인 함수를 max/min optimization, constraint는 1차로 표현되는 형태릐 문제를 가리킨다.

nonlinear programming의 대표적인 예

Quadratic Residue

:이차잉여를 배우는 이유는 정수계수정수방정식을 풀 때 그냥 풀기는 어려워서 합동식으로 범위를 제한하고 Chinese Remainder Theorem를 써서 구하는게 큰 그림. 이를 위해 일차, 이차 등 합동방정식을 해결먼저하는게 필요하고 그 때 이차잉여, 르장드르 기호 도입 등이 필요함

Decision Tree

:

n:features 총 개수

m:training instances의 총 개수

Parameters(scikit learn기준)

max_depth:tree의 depth의 상한을 설정

presort:학습이전에 데이터를 sort를 먼저 할 지를 정한다. m이 천단위로 적을 땐 True, 만단위이상일 땐 False하는 것이 학습 속도에 도움이 된다.

criterion:gini or entropy, cost function을 계산하여 feature를 greedy하게 나눌 때, impurity를 gini value를 쓸 지 entropy를 쓸 지 정한다. gini와 entropy가 성능 차이가 뚜렷하지 않으므로 계산이 빠른 gini가 default, 두개가 만들어낸 tree가 다를 때를 보면은 gini가 the most frequent class를 독자적인 branch로 두는 경향이 있고 entropy는 balanced tree를 만들어 낸다.

min_samples_split:leaf가 아닌 node가 split될 후보가 되기위한 최소 samples개수, 즉 만약 node_k가 samples가 153인데 min_samples_split가 160이면 학습시 node_k에서 쪼개는 것은 더이상 생각 안함

min_samples_leaf:leaf가 가질 수 있는 최대 samples 개수, 만약 node_k가 samples=7이고 쪼개지면 1과 6으로 쪼개지는 상황인데 min_samples_leaf가 2이면 1<2이므로 쪼개지지 않게 함

max_leaf_nodes:leaf의 최대개수 상한

max_features:학습시 각 node에서 feature를 고르는데 feature 고려 후보 개수 상한, 즉 max_features=5이고 모든 feature개수가 50일 때, 각 node에서 50개 중 임의의 5개의 feature만 택해서 greedy하게 best feature, threshold를 찾아낸다. 적을수록 regularize하는 것이고 overfit risk 낮춤

splitter:각 node에서 greedy하게 택한 best feature를 쓸지, 아니면 random하게 feature택하고 threshold만 적절하게 학습으로 찾을 지 선택

학습과정

:

Cost(feature_name, threshold_value) = left_ratio * left_impurity + right_ratio * right_impurity 가 최소가 되게하는 feature_name과 threshold_value를 택한다. 

즉 the purest subsets(weighted by their size)가 되게끔

이후 각 node마다 위의 과정을 반복하여서 feature_name과 threshold_value를 차례로 설정해나간다. 더이상 training instance가 나눠지지 않을때까지 나누거나 max_depth로 설정한 값까지 나눈다. 즉 greedy하게 학습한다.

greedy하기 때문에 optimal solution인지는 알 수가 없다. optimal solution을 찾는 것은 NP-Complete로 알려져 있으며 O(exp(m))로 알려져 있다. 

regression의 경우

Cost(feature_name, threshold_value) = left_ratio * left_variance + right_ratio * right_variance 가 최소가 되게하는 feature_name과 threshold_value를 택한다.

여기서 left_variance란, left에 속하게 되는 instances의 y값의 편차를 가리킨다.

학습할 때의 계산복잡도는 O(n*m*log(m))이다.

restriction없이 그냥 decision tree를 학습한 후에 모든 children nodes가 leaf인 node중에서 chi-square test using p-value 해서 null hypothesis:이 node를 children과 두는게 성능 향상되는게 우연이다, 라고 둔 확률이 일정 threshold(hyperparameter)보다 크면 accept하고 node의 children를 삭제하는 형태의 constraint를 두기도 한다. pruning(가지치기)라고 한다.

학습후

:

각 node는 다음의 데이터를 갖는다. 

feature_i criteria, ex) length > 0.2, 통과되면 왼쪽 node로 감

gini value(1 - (a_1/samples)^2 - (a_2/samples)^2....), 즉 작을수록 좋고, impurity를 measure하는 metric중 1가지 or entropy (parameter인 criterion을 default가 gini)

(entropy는 각 class의 training instance분포를 기준으로 구함, training instance가 0인 class는 summand로 넣지 않음)

samples(통과된 training instance의 개수), 

value=[a_1,a_2,...a_class개수]로 각 training instances의 class별 개수, 

class(이 node에 있으면 predict한 class값)

tree_clf.predict_proba("feature value list")를 통해 임의의 instance(feature value list로 실현된)를 입력하면

instance가 도착한 node의 samples와 value를 이용하여 instance가 어떤 class인지 predict한 값과, 그 class일 확률을 계산한다.

그 class일 확률 및 다른 class일 확률은 samples와 value를 이용하여 a_1/samples, a_2/samples,...를 통해 계산한다. 즉 training instances들의 그 node에 분포한 확률을 뱉는 것일 뿐. 즉 test instance의 feature값이 무엇이든, 같은 node에 도착하면 class distribution은 같게 나온다.

predict할 때의 계산 복잡도는 O(log(m))이다. Worst case는 O(m), 즉 모든 leaf가 training instance를 1개씩만 갖는 상황. (꼭 한개의 node에 여러 samples가 있을 필요가 없음, 특정 class의 samples가 다 있어야 하는 것도 아님)

따라서 아무리 많은 training instance로 학습하였어도, prediction은 빠르다.

특징

:

데이터 전처리를 거의 필요로 하지 않는다. scaling, centering따위 필요하지 않음

nonparametric(parameter가 없다는 뜻이 아니라, 있지만, 학습 이전에 정하지 않는 다는 의미), 따라서 overfit위험이 크므로 max_depth같은걸 지정함

regularization은 hyperparameter(max*을 줄이거나 min*을 늘리거나 하여 overfit 예방)

decision tree는 기준을 orthogonal하게 잡아버림, 따라서 rotation된 data에 대해선 generalization performance가 약함->PCA쓰고 decision tree쓰면 해결됨

학습데이터의 small variance이 학습된 decision tree 모양을 크게 바꿀 수 있음->instable

scikit-learn의 경우 decision tree를 학습시킬 때마다 (max_features같은게 설정되어 있다면)같은 training data set이어도 다른 모델들이 나올 수 있다. 왜냐하면 random하게 feature를 택하기 때문->instable

이러한 instable문제 때문에 random forest(decision tree의 bagging version)이 등장함

Random Forest

:

Autoencoder

:input, hidden layers, output으로 구성

데이터의 효과적인 표현(coding)을 learning

대개는 더 작은 사이즈로 dimensionality reduction

알아서 적절한 features만 뽑아낼 것(without label and domain knowledge)

->Autoencoder

사용하는 곳

-feature detectors, feature extraction, dimensionality reduction

-generative model

Autoencoder가 단순히 identity가 아닌 이유

-사이즈를 줄여나간 latent feature space

-변형된 Autoencoders(input은 with noise, output은 without noise)

구성

encoder=recognition network

decoder=generative network

output=reconstructions

loss=reconstruction loss

internal representation=latent feature

internal representation < input

이 때 undercomplete autoencoder라 한다

Simple Autoencoder(즉 layer가 가장 적게)에서 

activation function을 안쓰면 PCA와 같다.

Deep Autoencoder

주의사항:너무 딥하게 만들면, 모든 training instance마다 1개의 숫자로 대응시켜버려서

training accuracy는 좋지만 generalize는 못할 수가 있음

전략1:Tying Weights

transpose를 활용하여 같은 weight를 둠으로써 학습할 weight개수를 낮추고 deep하게 가능

fully_connected쓰지말고 직접 행렬을 정의하는게 이때는 훨씬 간결하다

이 때 주의사항

weights1과 weights2만 regularizer에 넣고

weights3과 weights4는 넣으면 안됨

bias는 tied도 regul도 안했음

전략2:한번에 한개의 autoencoder학습시키기

매우 deep한 autoencoder에서 유용하다(효율적인 학습)

즉 한번에 2개의 weight와 2개의 bias를 학습시키자.(그동안 나머지 weight와 bias는 고정)

이때 phrase가 증가함에 따라 input을 매번계산하지않게 하기 위해

값을 저장해두고 쓰기

Visualizing Features

방법1: layer에서 각 뉴런마다 가장 값이 높게 나오는 training instance찾기, 이 때 layer가 top에 있을 때가 효율적임, lower에 있을 때는 매우 추상적이고 값도 적을 가능성이 높다. 예를 들면 first neuron이 가장 높은 값이 있을 때, 그 때의 training instance가 고양이 사진이라면 다른 고양이 사진에서도 first neuron값이 높게 나올 것이다.

방법2:각 뉴런마다 직전 웨이트값을 transpose하여 plot해보기, weight값의 크기를 통해 그 뉴런이 어떤 feature를 찾으려는지 시각화됨

방법3:임의의 랜덤 input(image)를 넣고 내가 관심있는 neuron이 좀 더 activate하게되게 이미지를 수정해나가기(backpropagation)

(Classification의 pretraining 으로 사용할 경우, 그냥 Classification의 성능을 볼 수도 있다.)

Regularization implement example

:

regularizer = tf.contrib.layers.l2_regularizer(l2_reg)

initializer = tf.contrib.layers.variance_scaling_initializer()

X = tf.placeholder(tf.float32, shape=[None, n_inputs])

weights1_init = initializer([n_inputs, n_hidden1])

weights2_init = initializer([n_hidden1, n_hidden2])

weights1 = tf.Variable(weights1_init, dtype=tf.float32, name="weights1")

weights2 = tf.Variable(weights2_init, dtype=tf.float32, name="weights2")

weights3 = tf.transpose(weights2, name="weights3") # tied weights

weights4 = tf.transpose(weights1, name="weights4") # tied weights

biases1 = tf.Variable(tf.zeros(n_hidden1), name="biases1")

biases2 = tf.Variable(tf.zeros(n_hidden2), name="biases2")

biases3 = tf.Variable(tf.zeros(n_hidden3), name="biases3")

biases4 = tf.Variable(tf.zeros(n_outputs), name="biases4")

hidden1 = activation(tf.matmul(X, weights1) + biases1)

hidden2 = activation(tf.matmul(hidden1, weights2) + biases2)

hidden3 = activation(tf.matmul(hidden2, weights3) + biases3)

outputs = tf.matmul(hidden3, weights4) + biases4

reconstruction_loss = tf.reduce_mean(tf.square(outputs - X))

reg_loss = regularizer(weights1) + regularizer(weights2)

loss = reconstruction_loss + reg_loss

Tensorboard

:

now = datetime.utcnow().strftime("%Y%m%d%H%M%S")

root_logdir = "tf_logs"

logdir = "{}/run-{}/".format(root_logdir, now)

mse_summary = tf.summary.scalar('MSE', mse)

file_writer = tf.summary.FileWriter(logdir, tf.get_default_graph())

이렇게 학습시마다 다른 텐서보드를 얻기위해 폴더명에 실행시간을 추가시켜버리는 테크닉가능

summary_str = mse_summary.eval(feed_dict={X: X_batch, y: y_batch})

step = epoch * n_batches + batch_index

file_writer.add_summary(summary_str, step)

이렇게 텐서보드에 표현하고 싶은 필요한 스칼라값을 (학습중에서도 생기는,배치나 에퐄사이에)추가하여 학습, 그러면 events파일로서 저장되어 텐서보드에 표현가능

ROC(Receiver Operating characteristic curve)와 AUC(Area Under Curve)

:

False Positive란 예측값이 Positive인데 틀린(False) case, 즉 실제론 Negative인데 Positive라고 예측한 경우, Type I error

False Negative란 예측값이 Negative인데 틀린(False) case, 즉 실제론 Positive인데 Negative라고 예측한 경우, Type II error

False Positive Rate란 FP/N, 즉 실제 Negative에서 False Positve의 비율, 낮을수록 Negative인 것을 Negative라고 잘 판단

True Positive Rate란 TP/P, 즉 실제 Positive에서 True Positive의 비율, Recall이라고도 불리며 높을 수록 Positive인 것을 Positive라고 잘 판단

ROC란 어떤 binary classifier의 threshold를 다양하게 하여 x축을 FPR, y축을 TPR으로 하여 그린 곡선이다. 해석은 다음과 같다.

-[0,1]x[0,1]에서 그린 곡선이다.

-y=x위의 점인 경우 accuracy가 50%이다.(단 FPR=TPR=0.9인 경우랑 FPR=TPR=0.1인 경우 전자는 그래도 Positive인 것을 Positive라 판단하는 성능은 좋으며, 후자는 Negative인 것을 Negative로 판단하는 성능은 좋음)

-같은 binary classification문제에서 2개의 모델을 threshold를 다양하게하여 ROC curve를 각각 그려 2개를 그린다. 이 때 두 모델중 어느 것이 성능이 더 좋은 지를 판단하는 것을 AUC를 사용하여 구한다. (즉 2개 모델에서 threshold를 뭘하든 모델자체의 성능을 평가하기 위함)

-(FPR, TPR)=(0.9, 0.1)인 경우 엄청 성능이 낮음, random보다도 성능이 낮은 경우

-AUC가 높다->(FPR,TPR)이 좌측 상단에 있다->Better Case->즉 2모델 중 AUC가 높은게 Better Case(threshold가 존재)한다.

-실제로 어떤 threshold hold를 쓸 지는 TPR와 FPR중 무엇이 더 중요한지(즉 Problem마다 다름)를 생각하고 정한다.

Ridge, Lasso, L1, L2, regularization

:

ridge regression이란 bias말고 weight를 l2 norm구해서 l2 norm자체를 loss에 추가한 것

lasso regression이란 bias말고 weight를 l1 norm구해서 l1 norm 자체를 loss에 추가한 것

lasso는 여러 feature중 의미없는 feature를 걸러내는 데 사용

ridge는 weight의 절댓값을 줄임으로써 모델의 generalization의 성능을 끌어올리고자 하는 것

특히 training data가 적을 때 사용

Docker

:

장점

-용량 줄이기. 가상머신은 운영체제를 하나 새로 까니까 용량이 더 든다.

-빠르다. 가상머신은 CPU를 쪼개서 쓰므로 느릴 수 밖에 없다. 프로세스 차원으로 격리시켜 사용하는 도커는 OS를 분리하진 않으므로 기존 자원을 그대로 사용하므로 빠르다.

-

특징

-리눅스 전용

-sudo로만 실행가능, 매번 sudo쓰기 싫으면 sudo usermod -aG docker egoing을 실행시켜 현재 계정을 도커계정에 추가시키면 된다.

-image와 container로 구성, image란 실행파일과 라이브러리의 총합, container란 image를 실행해둔 상태를 가리킨다.

설치하기

-sudo wget -qO- https://get.docker.com/ | sh

사용하기

어떠한 패키지를 사용하는데에 있어서 그것을 일일이 다 설치하기보단 그것을 미리 설치해둔 좀 더 큰 이미지를 받아 실행시킴으로써 패키지 관리자를 사용할 수가 있다.

-우분투 이미지 다운받아 실행하기

push

ex)docker push ~~~~

자기가 만든 이미지를 서버로 공유하는 것

docker와 dochub와의 관계는 git과 github와 비슷하다.

pull

ex)docker pull ubuntu:14.04

우분투 14.04 패키지 시스템이 구성된 이미지를 받아온다.

우분투의 커널을 제외한 모든 리눅스 배포판이 이미지안에 포함되어있다.

ex)docker pull nginx:latest

이처럼 버전을 latest라 두면 가장 최신버전의 이미지를 받아온다.

images

ex)docker images

현재 docker가 갖고 있는 이미지의 리스트를 반환한다.

search

ex)docker search ubuntu

현재 dochub에 있는 ubuntu가 포함된 이미지 리스트를 반환한다.

결과 리스트에서 앞에 아이디가 적혀져있지 않은 것은 도커에서 지원하는 공식 이미지들이다.

하지만 결과 리스트가 너무 많아서, docker.com에서 browse 탭에서 ubuntu라 검색하면 Tags에 버전들 목록이 있으며 그것을 참고해서 docker pull ubuntu:14.04 같이 입력하여 사용하면 된다.

run

ex)docker run -i -t ubuntu:14.04 /bin/bash

설치된 이미지를 통해 container를 실행시키고 들어가는 명령어

/bin/bash를 쳐줌으로써 이미지에 있던 bash파일을 실행하면서 container를 실행

docker는 기본적으로 실행할 메인 실행파일(현재는 /bin/bash)을 함께 실행시켜야 container가 유지되고, 이것을 종료함으로써 container를 종료한다.

-i:interactive환경을 제공

-t:가상터미널환경을 제공

이후 container 내에서 어떠한 패키지들을 설치하면 그것은 원래 운영체제에서는 설치되지않고 container 내에서만 설치가 된다. 마찬가지로 기존 운영체제에 설치된 패키지를 container 내에서 사용할 수가 없다. 완전 독립

ex)docker run -i -t --name bg ubuntu:14.04 /bin/bash

--name을 통해 container의 이름을 붙여 실행시킬 수 있으며, 이는 후에 container를 재실행하기 쉽게 만든다. 만약 name을 지정하지 않았다면 docker가 알아서 이름을 만든다.

container내에서의 패키지 설치 및 사용 등은 container-level에서 독립적이다. 즉 하나의 image로 여러개의 container를 만들어서 사용할 수가 있으며 각개의 container는 독립적으로 운용된다.

ex)docker run -d --name hello-nginx nginx:latest

-d:detached, 백그라운드로 실행, 그렇다보니 bash같은 실행파일을 지정해주지 않아도 된다.

start

ex)docker start "container id"

ex)docker start "container name"

ex)docker start bg

container의 id나 name을 이용하여 container를 실행시킨다. 이 경우 container가 실행되지만 안으로 들어가지는 않는 상태가 된다.

attach

ex)docker attach "container name"

start로 실행시켰던 container로 들어가는 명령어

ps

ex)docker ps

현재 실행중인 container 목록이 나온다.

ex)docker ps -a

과거에 종료했던 container까지도 포함해서 목록이 나온다.

ex)docker container rm "container id"

docker rmi "image_name" 했을 때 특정 container가 사용중이므로 삭제가 안될 때가 있다. 그 때 docker ps해도 container가 켜지지 않았음에도 에러가 날 때가 있는데, 그땐 docker ps -a로 과거 container history를 본 다음에, 확실히 container를 제거해줘야한다. 그때 docker container rm "container_id"가 필요하다.

ctrl+p+q

container 내에서 container를 종료시키지 않고 빠져나오는 명령어

만약 container를 종료시키면서 빠져나오고 싶다면 exit 혹은 ctrl+d를 써서 bash를 꺼주면 된다.

stop

ex)docker stop "container name"

container밖에서 현재 실행 중인 container를 종료시키고 싶을 때 사용하는 명령어

rm

ex)docker rm "container name"

특정 container가 관심없어서 지우고 싶을 때 사용

rmi

ex)docker rmi "image name"

docker가 갖고 있던 image중에서 image를 삭제하는 명령어

exec

ex)docker exec "container name" touch /hello.txt # touch란 파일 만들기 명령어이다.

밖에서 container의 우분투에서 명령을 실행시킬 수가 있다.

commit

ex)docker commit "container id" "image name"

만든 container를 image로 뜨는 명령어이다.

nvidia-docker2설치과정

$ curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | \

  sudo apt-key add -

$ distribution=$(. /etc/os-release;echo $ID$VERSION_ID)

$ curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | \

  sudo tee /etc/apt/sources.list.d/nvidia-docker.list

$ sudo apt-get update

$ sudo apt-get install -y nvidia-docker2

$ sudo docker pull nvidia/cuda:10.0-cudnn7-runtime-ubuntu16.04

$ sudo systemctl daemon-reload

$ sudo systemctl restart docker

cp

ex)docker cp "host파일경로" "container name":"container 내부경로" # host->container 파일복사

ex)docker cp "container name":"container 내부경로" "host파일경로" # container->host 파일복사

ex)docker cp docker-cp-test anchore:test

참고자료

http://pyrasis.com/docker.html

https://opentutorials.org/course/128/8657

https://nicewoong.github.io/development/2018/03/06/docker-commit-container/

https://hiseon.me/2018/02/19/install-docker/

https://github.com/NVIDIA/nvidia-docker/issues/838

Git

:

버전관리 시스템 중 하나(version control system)

파일이름을 바꾸지 않으면서도 버전관리, 즉 변경사항을 관리한다.

게다가 backup, recovery, collaboration(다른 사람과 협업) 등이 가능

설치방법

:

sudo apt-get install git

or

sudo yum install git

git init

ex)git init

프로젝트 폴더 내에서 실행하면 이 폴더를 버전관리를 하겠다고 git에게 알려주는 명령어

이후 프로젝트 폴더 내에 .git이란 폴더가 생기고 여기에 모든 작업 내역들이 저장된다.

git status

ex)git status

버전관리를 하겠다고한 폴더내에서 실행하면 현재 폴더 내에 파일들의 status를 알려준다.

git add "file명"

ex)git add f1.txt

git에게 파일을 관리(track)하라고 명령하는 명령어

git init하고나서 이후에 새로 추가된 파일들에게 주로 필요하며, init된 폴더내에 있다고해서 버전관리가 다 필요한 파일들이 아니기때문에, 새로 만들때마다 git add해주어야 한다.

최초 track을 하기 위해서도 git add를 쓰지만, 이후 파일을 수정하고나서 git status하고나면 "modified"가 나오는데, 이때 바로 git commit하여 새버전을 만드는게 안된다.

이때 새 버전을 만들때도 git add "file명" 해주어야 한다.

즉, git add는 1. track(변경이 된건지 아닌건지), 2. make new version, 2가지를 위함에 필요하다.

즉, git은 내가 commit하고 싶은 파일만 등록해서 commit할 수 있게 add를 둔 것, add를 통해서 stage(commit 대기파일들)에 파일을 등록시킨다.

작성자 profile 등록

git config --global user.name bg

git config --global user.name bg@gmail.com

이렇게 함으로써 버전에 작성자 profile을 등록할 수 있다.

git commit

실행하게되면 stage(commit 대기파일들)에 있는 것을 commit한다.

git status한 내용들이 하단에 주석으로 깔리고 상단에는 버전메시지를 입력하게끔 vim으로 .git/COMMIT_EDITMSG파일이 열린다.

버전메시지(commit message)란, 새 버전의 유의미한 변화를 적어주면 된다.

이후 commit하여 생성된 버전이 저장되는 곳을 repository라 한다.

git log

버전메시지들의 log가 남는다. 버전 작성자의 profile과 버전을 만든 data도 출력한다. 그리고 각 commit의 id도 출력한다.

git log -p

버전메시지들의 log와 함께 각 버전마다 직전버전과의 변화를 출력한다. 

기본적으로 버전관리라함은 git init한 폴더 자체를 1개의 버전으로 보기 때문에, 각 버전마다 새로생긴 파일, 수정된 파일 등의 변화를 볼 수가 있다.

git log "commit id"

해당 commit id의 이전 log만 출력한다.

git diff "commit id1".."commit id2"

commit id1과 commit id2 사이의 log -p만 출력, -는 commit id1의 내용, +는 commit id2의 내용을 출력한다.

git diff

작업한 변경사항들을 보여준다. 대개는 commit하기전에 확인차원에서 써본다. add하기 전의 파일들의 수정사항들을 확인하는 것이다. add한 파일들의 수정사항들은 나오지 않는다.

git reset

(버전을 되돌리는 방법이므로, 주의해서 사용해야함, 프로젝트 폴더 전체를 백업떠두고 하는 걸 추천)

git revert

Python3

:

sudo apt-get install python3-pip

pip3 freeze > requirements.txt

pip3 install -r requirements.txt

Numpy

:

Clustering

:

결과에 따른 종류:

Hard clustering:각 instance가 단일 cluster에 속하는 경우

Soft clustering:각 instance가 각 cluster에 속하는 정도를 나타낸 경우

알고리즘에 따른 종류:

K-means clustering:

n개의 instance를 m(<=n)개의 cluster에 속하게끔 분류를 한다. 이 때 C_1, C_2, ..., C_m개의 cluster에 속하는 instances의 평균을 μ1,μ2,...,μm이라 할 때 C_k에 속하는 임의의 instance와 평균사이의 거리제곱의 합이 최소가 되게하는 C_1,C_2,...,C_m을 설정하는 것을 목표로 한다. 방법은 Assignment Step과 Update Step을 반복적으로 시행하여 얻는다. 

먼저 initial values of means를 설정한다. 이후 Assignment(각 점마다 가장 가까운 mean의 cluster에 배정), Update(각 cluster의 새 mean을 구함)

이후 Assignment를 하여도 변함이 없을 때 종료한다. 

특징:

거리(distance)함수를 L2 외 다른 것을 씀으로써 변형 K-means clustering이 가능

만들어진 cluster가 convex하지 않으면 clustering이 실패하거나 means가 엉뚱한 값이 될 수가 있다.

초기 mean 설정에 대한 여러 방법들이 존재

최적 cluster 개수 k를 설정하는 여러 방법들이 존재(거리제곱의 합이 최소 중에 최소가 되는 k 선택, 물론 k=n이면 0이 되지만, k<<n인 k 중에서 거리제곱의 합이 급격히 변화하는 k를 택하거나, silhouette(각 점(i)마다 cluster 내의 다른 점들과의 평균거리(a(i))와 다른 cluster 각각의 평균거리(즉 다른 cluster 내의 점들과의 거리의 평균)의 최솟값 (b(i))를 구한다. 이렇게 각 데이터 i마다 a(i), b(i)를 바탕으로 silhouette score s(i)를 구하고 s(i)의 값에 따라 i가 cluster에 잘 배정됐는지를 해석한다. wiki에서 silhouette clustering을 검색, s(i)값이 높을 수록 좋으며, cluster 개수 k를 증가시키며 평균 silhouette score값이 최대가 되는 k를 택한다. 혹은 이전의 거리제곱의 합이 최소인 것과 동시에 silhouette score를 각 군집마다 결과를 내서 함께 고려하여 k를 결정하기도 한다. Calinski-Harabasz index(군집간 산포와 군집내 산포의 비율을 이용, https://scikit-learn.org/stable/modules/clustering.html#calinski-harabaz-index 참고)를 이용하여 k를 결정하기도 함(물론 silhouette, 거리제곱합 등도 함께 이용)

DBSCAN(Density-Based Spatial Clustering of Applications with Noise):

특징:

non-convex 문제를 해결할 수 있음

k를 먼저 선언하지 않아도 된다.

Ensemble

:

이론 배경은 Law of large number에 있다.

Pandas

:

국내

서울

-난지도

전라도

-장도(섬)(보성군 벌교읍)

-전라우수영(해남)

-낙안읍성(순천)

-선암사(순천)

-진도(4월에 바닷길 축제)

-

국외

싱가폴에서의 크리스마스? 더운 크리스마스?

1. 

목표는 아래의 모든 머신기구들 max중량, 셋트당 10~20, 4셋트채우기

1일차

체프:65

팩머:20

숄프:40

렉익:35

레프:80

케프다:20

2일차

체프:75

팩머:20

숄프:40

레프:100

렉익:40

로프다:10

케프다:X

3일차

체프:75

팩머:20

숄프:50

렉익:X

레프:100

로프다:12.5

케프다:X

4일차

체프:80

팩머:25

숄프:50

렉익:45

레프:110

로프다:15

케프다:X

주기동:주간기술동향, 정보통신기술진흥센터

180704 주기동

블록체인 기반의 탈중앙화 사례분석

단계별 제공가치 및 내용

1단계, 공유성, 모든 노드(사용자) 간에 정보를 공유함

2단계, 투명성, 정보 공유로 인해서, 숨기는 항목이 거의 사라짐

2단계, 무결성, '증명 알고리즘' 사용에 의해 공유 정보의 무결성 보장

3단계, 신뢰성, 믿을 수 있는 정보 공유로 노드 사이에 신뢰가 형성됨

4단계, 탈중앙화, 중개 비용 감소, 공유 비용 절감, 개인 권리 강화

GPS 전파교란 동향 및 대응 기술

GPS란, 위성항법시스템(Navigation Satellite System)중 Global, Regional 두가지로 분류할 수가 있는데, Global 중에서도 미국의 Global Positioning System을 GPS라 한다.

GPS 위성에서 송신하는 송출 신호의 세기는 25W로 강한 수준이지만, 지상까지의 거리가 멀어서, 약 20,000km, 지상에서의 수신 신호세기는 휴대전화 최소 수신 전력의 1/300 수준인 -160dBW로 약하다.

교란방법으로 잡음기법(위성 신호보다 40dB 이상의 강한 잡음 신호를 방출하여 수신기가 GPS 신호를 제대로 수신하지 못하게 방해하는 기법)과 기만기법(Meaconing(재머가 위성항법 신호를 수신하여 일정시간 동안 지연시킨 후 재방출하여 근처의 수신기로 하여금 재머 위치를 자신의 현 위치로 착각하게 만드는 방법)과 Spoofing(위성항법 정보를 열어서 내부 정보를 다른 정보로 조작하여 재방출함으로써 수신기로 하여금 재머가 보낸 엉뚱한 위치를 자신의 현 위치로 착각하게 만드는 방법))이 있다.

ICT로 고도화된 월드컵, 실시간 전술 변화 지원과 비디오 판정 도입

트래킹 시스템, 각 팀에 태블릿2개, 선수와 공의 위치 데이터, 각 선수의 달리기 속도, 패스와 압박, 태클 등의 통계데이터 제공 및 경기 영상 전달(30초 정도 딜레이)

VAR(Video Assistant Referee)

제2회 스타트업 월드컵

1위, 류코 랩스, 암 환자의 백혈구 수치를 신체에 의료 기기를 삽입하지 않는 비침습적 방법으로 모니터링하는 기술

2위, 플리토, 실시간 소셜 번역 앱

공동 3위, 스트랩, 시각장애인 지원 웨어러블 기기

공동 3위, 월박스, 전기자동차의 충전 효율 향상 기술

심사기준:임팩트가 강한 하나의 제품을 보유하고 있는가, 이미 사업화가 진행되어 어느 정도의 매출이 있는지

아마존의 인공지능 개발 플랫폼 개방을 통한 AI 생태계 확대 전략

2018년 5월 인공지능 알렉사 활용 앱 플랫폼인 스킬(Skill)에 유료 앱 등록을 모든 개발자에게 오픈함으로써 아마존의 음성 인공지능 생태계가 폭발적으로 확대될 것으로 예상

유어 보이스(Υοur Voice)라는 화자인식 기능도 개방함

이를 통해 하드웨어 제조사들에게 자사의 제품에 알렉사를 쉽게 탑재할 수 있는 기회를 제공, 인공지능 스피커 에코의 가치 상승, 많은 IoT상품들의 출현

Kohler의 Numi라는 인공지능 변, 음성명령에 따라 커버여닫기, 비데 강도 조절, 음악 재생, 물사용량 통계 등 가능

180711 주기동

인공지능의 창업 분야와 기회

1. 인공지능 기반 커머스에서 찾는 창업의 기회, Curation Commerce, 인공지능 기반의 맞춤형 추천, 개인화, 고객들의 특성, 과거 구매 내역 등 기반, Amazon Go는 무인 매장, 소비자는 스마트폰에 앱을 내려 받은 후, 매장에 들어가 계싼대에 줄을 설 필요 없이 원하는 상품을 들고 나오기만 하면 된다. 수백 대의 카메라와 센서들이 소비자가 어떤 물건을 골랐는지 자동으로 인식하고 연결된 신용카드로 결제까지 완료하기 때문

2. 미래 인공지능 챗봇에서 찾는 창업의 기회, 챗봇 자체를 서비스의 중심으로 이끌어가고 싶다면, Nadia와 같이 인간의 감정을 어루만져 줄 수 있는 친구 서비스로 가야한다. 혹은 B2B 형태의 창업으로 다른 서비스에 도움을 주는 형태로 가야한다. 챗봇 비즈니스를 시작할 땐 챗센터(chat Center), 즉 고객이 묻는 채팅 질문에 사람이 직접 대응하는 시스템을 동시에 운영해야 한다. 초기 오픈 단계에서는 90%에 가까운 예외사항들이 발생하고 이러한 예외사항에 대한 데이터를 빠르게 수집하여 적용해야 한다.

3. 인공지능 통번역에서 찾는 창업의 기회

4. 헬스케어 IoT와 인공지능의 결합에서 찾는 창업의 기회, 문신, 렌즈 형태의 센서들이 등장, 정신과 치료는 매일매일 환자의 상태를 파악해야만 좀 더 정밀하고 정확한 진료 가능, 챗봇을 통해 하루3번 상담, 구글 컨택트 렌즈를 통해 당뇨 진단도 가능, 

5. 패션과 인공지능의 결합에서 찾는 창업의 기회, 3D 패션 분야 가상현실을 통해 원단의 재질과 물리적 특성을 구현해 실물같은 옷을 보여줄 수 있다. 옷(티셔츠)에 센서를 달아 VR성능을 키우기도 가능, 자켓에 센서를 달아 스마트폰 제어가능(주요 수요층이 자전거로 출퇴하는 사람)

6. 인공지능 서비스 로봇에서 찾는 창업의 기회, 인공지능 면접관 서비스, 지원자의 얼굴 표정, 음성 등을 모니터링해서 지원자의 성향과 업무 능력 파악, 명품 진위여부 서비스도 가능(Entrupy가 개발한)

7. 가정용 로봇에서 찾는 인공지능 기술창업의 기회, 감정 표현, 소통, 개인 비서, 가전기기 제어, 집안 모니터링, 음악 스트리밍, 영화 재생, 교육(아이들의 질문에 대답과 재미있을만한 이야기를 들려주고 농담도 건넴), 약먹을 시간 알려주기, 담당 의사와 화상통신, 

7가지의 공통점은, '개인화'

IBM 왓슨, 구글 등의 원천 기술을 사용할 것을 추천하며, 대신 자신의 전문 분야(domain)에 노력을 쏟기를 바란다.

기업에서 사용되는 전력의 100%를 재생에너지로 충당하자는 'RE 100' 캠페인에 참여하는 글로벌 대기업들이 늘어나고 있음. (Renewable Energy)

구글 액션 카메라 '클립스clips', 가족이나 애완동물 등을 가르쳐두면, 그 인물을 중심으로 촬영, 미소 혹은 춤, 포옹 등을 스스로 파악해 사진작가처럼 비디오 및 사진을 찍음, 피사체와 1~2미터 거리가 적절, 최고의 씬 6초 정도 클립을 찍음, 

AI 민족주의 우려, 미-중 위주로 AI기술이 집중 발전하여 유전국/비유전국 처럼 지정학 요소가 될 수 있다.

180718 주기동

DQN(Deep Q-network)을 자율주행자동차에 적용하는 시도들이 있었지만 성공하지는 못하였다. 그 이유는 DQN은 ATARI 게임처럼 불연속적인 행동을 처리하는 조작이 간단한 문제에 적합하기 때문이다. 또한 DQN은 시뮬레이션 크기를 조금만 키워도 현재의 컴퓨터 계산 용량으로 처리할 수 없는 "차원의 저주"라는 컴퓨팅 자원의 한계도 가지고 있다. Deep Deterministic Policy Gradient, DDPG가 최근에 개발되었다. 연속적인 행동을 제어할 수 있다.

강화학습 기반 자율주행차량의 제어를 위해서 DQN을 적용하면, 차량의 3가지 행동 즉, 브레이크, 핸들, 가속페달의 값이 연속적이라서 계싼량이 기하급수적으로 증가하여 차원의 저주 문제에 봉착한다.

2017년 7월에는 일본 유명 영어학습 서비스 회사인 '이온(AEON)'이 영어학습용 가상현실 콘텐츠 "영어로 대접 가이드"를 출시하고 이를 애플리케이션으로 제공하여 스마트폰용 HMD를 사용하여 VR형태로 학습이 가능하도록 하였다. 즉, 단어와 예문을 사전 학습하고 대화 상대가 나타나면 배운 것을 토대로 대화를 이어나가는 방식으로 학습, 답변에 따라 달라지는 스토리텔링 콘텐츠를 VR기술을 활용하여 서비스하고 있다.

180725 주기동

딥러닝 기법을 이용한 인공지능 기반의 소비자 선호도 분석 시스템(짬뽕라면 A,B의 고객들의 리뷰를 통해 선호도 및 특성 조사를 딥러닝 기법을 이용하였을 때와 대면 조사(관능평가)의 성능 비교 및 장점이 있다.)

대면 조사의 단점:

-표본 집단의 구성 문제

-사이즈 증가에 따른 비용 문제

-취향 평가를 위한 적합한 질문 만드는 과정 및 평가를 위한 툴만드는 게 어려움

딥러닝 결과가 실제 대면조사와 비슷하게 나옴

허마시엔셩, new retail, 

new retail전략은 2016년 10월 마윈 회장이 제시한 것으로, 온 오프라인의 벽을 허무는 onmi channel 소매와 스마트 물류를 융합한 미래형 소비유통 모델이며, ICT를 활용하여 공급망을 혁신하고 빅데이터 분석에 따라 소비자의 요구를 만족시킨다는 것이 핵심

특히 육류, 야채 등의 코너에서 정확한 수요 예측을 통해 당일 생산과 당일 판매를 함으로써 최고의 신선도를 추구하는 것이 특징

육류와 야채 등 신선식품의 수요를 높은 정확도로 예측하고 당일 판매의 신뢰성을 보장할 수 있는 것은 철저한 고객 데이터 분석과 상품 추적 시스템을 활용하고 있기 때문

회원제를 택함, 반드시 스마트폰 전용 앱이 깔려야 쇼핑가능, 알리페이를 사용해야함, 이를 통해 방문 내역, 구매 내역 데이터 축적

전체 고객 ID를 부여하고 모든 판매 기록을 사용자마다 분석하여서 POS(계산대) 데이터 분석보다 정확도 높일 수 있음

스마트폰 앱으로 상품 포장과 가격표에 붙어있는 바코드 및 QR코드를 읽으면 상품에 관한 설명을 얻을 수 있음(생산지, 수확일, 가공일, 매장까지의 배송내역 등) 심지어 물고기 한마리마다 QR코드가 붙어있음

구매 후 현장에서 즉석 조리가 가능, 고객이 해산물을 수조에서 꺼내 결제한 다음, 조리 카운터에서 조리법과 양념을 지정하면 매장 내 상주 요리사가 즉석에서 요리를 해옴, 이걸 grocery + restaurant = grocerant라 한다. (미국, 유럽, 중국에서 유행)

스마트폰으로 주문하고 배송 받는 것이 가능, 30분 내에 배송해줌, 매장에서 대략 3km 이내 거리인 경우, 앱으로 매장에 있는 상품을 주문하면 30분 이내에 받을 수 있으며, 주문이 들어가면 점원이 매장에서 상품을 선택하고 허마시엔셩의 오토바이 퀵서비스를 이용해 배송함

경쟁업체 7Fresh는 허마시엔셩과 유사하되, 차별성으로는 고객을 자동으로 따라다니는 무인 자율 주행 쇼핑 카트, 셀프 계산대에서 얼굴 인식 인증 결제 도입 등이 있음

showrooming족, 즉 매장에서는 상품만 체크하고 실제 구매는 인터넷에서 하는 사람들, 쇼루밍 족을 위해 매장에는 재고가 있지만 쇼핑몰 사이트에서는 품절인 상품이 있다면 그 사실이 가격표에 표시되게하여 낭패를 보지않게 해주며, 각 가격표는 온라인과 연동하여 온라인 쇼핑몰의 가격과 실시간 연동되어 있다.

유튜버들의 축제, 비드콘(VidCon)

유튜버는 동영상 UCC(User Created Contents) 사이트인 유튜브에서 인기를 얻고 있고 영향력이 있는 인플루언서(influencer)들을 총칭하는 말

2018년 축제에 어린이와 청소년, 그리고 여성참가자가 많음

주최하는 곳은 유튜브나 모회사인 구글이 아니라, 컨퍼런스 이름과 같은 비드콘이라는 기업이고 올해로 9번째 행사를 주최함

안내 로봇, 아이들의 집단 괴롭힘을 피할 방법 학습

아이들의 경우 로봇의 길을 비켜달란 부탁에 무시하거나 여러 명의 어린이가 로봇을 둘러싸고 발로 차거나 공을 던지는 등의 폭력적 행동을 보이기도 함

이를 해결하기 위해 아이들의 행동 패턴 및 폭력 행위 모델을 포함한 시뮬레이션 학습용 알고리즘 '회피 기동 시스템(Escape Maneuver System)을 개발함

알고리즘의 핵심은 폭력이 발생할 가능성이 높은 상황이라고 판단되면, 로봇이 원래의 경로를 변경하거나 목적지를 변경하도록 하는 것임(사람과 조우했을 때, 상호작용 시간, 인구 밀도, 1.4m 이하의 사람이 있는지 등을 감지하며, 위험이 감지될 경우 1.4m 이하의 사람들로부터 달아나 키가 큰 사람의 그룹이나 인구밀도가 높은 장소로 이동함)

날짜+영어표현

주말에 총정리

(내일은 켜자마자영단어에있는거 옮기기)

cortically

sensualism

phubbing

coital

assertive

supine

panacea

kindergartener

gossamer

meridian

voiceover

devolve

heist

dachshund

cynic

live a decadent life

make biased calls

swoon

humongous

arable

agnostic

pawn off

fine-grained

circumplex

latch

in hidsight

fete

fiddle

melt away

window pane

polysemy

invariably

syntactical

cold start

legend

granularity

factoid

multiple hops

prune

downstream

grid-search

out of the box

nil

hapax legomenon

gestapo

scaffold

mescaline

ad hoc

topical

leapfrog effect

tendril

tush

shook(shake)

cheek

drool

lightsaber

faint

mermaid

bang(앞머리)

jack o lantern(할로윈 호박)

I pity the fool(난 그 어리석은 놈을 동정하지(나에게 잘못한 그새끼 걸리면 뒈진다 류의 catchphrase))

I forgot my combination(combination은 열쇠 비밀번호)

late pass(초중고딩들 지각사유서)

killer handshake(악수할때 특이하게 하는 방법 중 하나)

electives(선택과목들)

emasculate(무기력하게 느끼게 만들다)

giggly(낄낄거리는)

imputation

futuristic

WBS(Work Breakdown Structure, 소프트웨어 공학 쪽 용어)

SOW(Statement of Work, Scope of Work)

IR(Investor Relations)

PR(Public Relations)

HIS(Hospital Information System)

EMR(Electronic Medical Record)

PHR(Personal Health Record)

replenishment

rosary

faint music

chit chat

dork

tantalize

kindred spirits

wrecks it for me

RV(recreational vehicle)

play dead

admission by that name

cog in a network

barrel of a gun

wasp

feisty

dysfunctional family

acrimonious

extubate

right wing extremist

huckleberry

cock a gun

splinter

leg up

sea change

use it or lose it

intrepid

collar

anaphora

fleece

surf and turf

snippet

wide berth

irons in the fire

bipolar

모든 남자가 가슴 큰 여자를 좋아하진 않는다. 모든 남자가 가슴 작은 여자를 좋아하지 않는다.

기존에 존재하는 것을 다르게 해석하는 능력, 그것이 창의력이다.

자유는 매번 수행할 기획(즉, 자유가 현실 속에서 만들어낼 수 있는 현실)에서 출발하여 재해석된다. 

개인은 자신의 미래를 향해 열려있으며, 이 미래는 기성의 정의에 갇히지 않는다. 그 결과 내가 어떤 사람인가는 그 자체로는 알기 힘들고, 내가 되기를 바라지만 아직 되지 않은 미래의 모습을 고려함으로써만 정의될 수 있다. 그러므로 과거는 우리의 욕망이나 기획에 따라 이용되어야 한다. 과거는 움직이지 않는 것이 아니고 그 의미 또한 예전에 정해진 대로 고정되어 있는 것이 아니다. 그러므로 과거를 재가공하는 것은 나의 몫이며, 나는 나의 과거를 오직 나에게 유용한 방식으로만 기억할 수 있다. 즉 내가 어떤 모습으로 변하는가에 따라 내 과거의 의미는 달라진다.

행복=가진 것/원하는 것, 가진 것에 만족할 줄 알아야 한다.

천국의 오류, 초점오류의 일종으로, ~을 가지면 좋겠다. ~의 한 특성만을 고려해서 생각한 오류, 예를 들면 무인도에 한 가구만 사는 경우, 천국같아보이지만, 아플 때 불편하고 식수, 전기, 등을 고려 못하는 점

쾌락적응, 즐거운 일이든, 불행한 일이든, 시간이 지나면 행복도가 원래의 상태로 돌아간다는 이론

춘천사람과 서울사람에게 각각 어느지역 사람이 더 행복하냐는 설문에 둘다 서울지역 사람이 더 행복할 거라고 생각했지만 실제론 비슷비슷하게 나왔다.

행복은 어떤 대단한 한방이 아니라는 것이다. 아주 소소하지만 빈번하게 작은 긍정적인 기쁨을 얼마나 자주 느끼느냐가 행복도를 결정

행복은 생각+감정, 생각(내가 원하는 길을 가고 있다), 감정(그 과정이 즐겁다.)

자신의 목표를 향해 가고 있다면 고통스럽더라도 우리는 행복하다고 말한다. 하지만 그 과정에서 긍정적 감정을 경험하지 못한다면 우리는 또 불행하다고 말할 수 있다. 

삶의 질은 평생 어떤 일을 하며 그 일을 하며 어떤 생각을 하는 지에 달려있다.

스스로 가치를 느끼는 순간 지루함과 고통은 갑자기 즐거움으로 변한다. 행복은 내 손 안의 작은 새다.

사랑하면 알게된다. 다 안다는 말이 아니라, 끝까지 알려고 한다는 것이다. 안다고해서 사랑하는 것은 아니다.

일등하는 아이는 사랑을 못한다. 골고루 공부해야하니까 결국 다 외워야하니까. 일등하는 아이는 나중에 평범해진다. 역사에 이름이 남기는 힘들다. 지금 많이 알고 있지만, 사랑하지 않기 때문에 1,2년 뒤에 다 까먹게 된다. 한개를 사랑하고 나머지는 어쩔 수 없이 대충하는 사람이, 오랜 세월 뒤엔 반짝이는 사람이 될 것이다.

사랑하는 대상이 바뀔 수는 있는데, 사랑이 없어서는 안된다. 죽을 때까지 사랑을 해야한다.

슬픈 영화를 본 후에 친구들과 대화를 할 때, 어느 부분이 슬펐는지, 슬퍼한 대목이 서로 다르다. 마찬가지로 공부를 할 때도, 수학을 좋아하는 아이들 사이에서도 어느 부분이 좋은 지 각자가 다를 수 있다. 학문을 할 때의 가장 큰 포인트는, 나만 좋아하는 부분을 찾는 것이다. 좋아하는 부분 찾을 때까지 다방면으로 공부하는 것이다.

과학을 좋아해서 카이스트가는 애는 극히 일부야. 과학을 진짜 좋아하는데 왜 성적때문에 자살하니? 업적만 생각하는 애들, 그런 애들이 죽지. 자기가 좋아하는 자연과학을 하러 카이스트에 와서 오늘 실험 실패했다고 죽는 새끼가 어딨어? 사랑하게되면 안죽어, 좋아하는 거 하는데. 

진짜 사랑을 하게되면 어떠한 제약도 넘어간다.사랑을 하게되면 자유를 요구하고, 강해진다. 그래서 고민해야 할 것은, 내가 사랑할 것이 무엇인지만 고민하면 된다.

고백컨대, 꿈이 없어도 노력으로 성공한 사람은 많이 봤습니다. 노력 없이 꿈으로 성공한 사람은 본 적이 없어요. 어떤 멘토는, 허황된 꿈을 꾸지 말고 아예 먼미래의 목표는 다 잊어버리고 지금 당장, 눈 앞에만 집중해서 최선을 다하란 얘기도 했습니다.

특히나 현실적인 근성은 꿈을 꾸는 사람보다, 헝그리한 사람이 훨씬 강합니다. 꿈을 좋아하는 사람 중 다수는 낭만적인 걸 좋아하기에 도중에 쉬이 지치고는 합니다만, 헝그리한 사람은 지치지 않죠. 이룬 것도 뭐도 없기 때문에 지칠 여유 자체가 없습니다. 끝까지 가는 사람은 대개 헝그리한 사람들입니다. 어려서 꿈만 키운 사람 보다는요. 현실에 투정댈 여유도 없고, 내 몸값에 안맞는 일이라거나 학벌이 아깝다고 징징댈 여유도 없습니다. 오늘은 좀 쉬어야겠다고 할 수도 없고, 저건 좀 귀찮은데 라고 할 여유도 없어요. 시키면 해내고, 할 수 있을 것 같으면 하는 사람들은, 절박함이 강한 사람들이에요. 

고등학교 때는 내가 머리 좋은 지 알았는데 대학오니까 난 아닌가봐 ㅠㅠ, 라는 글에 댓글이, 대학교 때는 내가 멍청한 줄 알았는데 직장와보니까 아니더라.

그저그런 영화도 하이라이트는 재밌다. 타인의 삶은 하이라이트로 보게 되어있고, 내 삶은 단 1초도 편집 안 된 그대로 느끼게 되어있다. 그러니 철저하게 편집된 타인의 삶을 부러워할 필요도, 도대체 내 삶만 왜 이 모양인가 슬퍼할 필요도 없다.

성적이 나를 지켜주지 않는다. 오직 나만의 생각하는 방법, 내가 무언가를 접했을 때 떠올렸던 그 영감, 그리고 그것으로부터 뻗어져나오는 생각의 갈래. 그 자유로움과 풍성한 상상이 나를 만들고 그것이 나를 살게할 것이다.

메타 인지(Metacognition)란 자신이 무엇을 알고 무엇을 모르는지 정확히 파악하는 능력이다.

자신이 겪는 어려움과 불이익을 너무 깊이 생각하는 사람은 자기 연민과 좌절감에 사로잡힌 채 자신의 모자란 점을 다른 무언가의 탓으로 돌리고, 배움에는 전혀 신경을 쓰지 않는다. '학습된 무기력'에 빠지기도 한다. 거듭 마주치는 장애물 때문에 실패를 경험한 사람이 그 장애물이 사라져도 어쩔 도리 없는 것처럼 행동하는 경우를 이르는 말이다.

교과서 내의 단어를 바꾸는 것도 효과가 있다. '~일 수도 있다.', '~일 지도 모른다'와 같은 구절이 들어가면 학생들은 훨씬 더 다양한 답을 생각해 내고... 역사를 공부할 때도 마찬가지다. 스탠퍼드 대학교의 한 교수는 학생들에게 어떤 특정 인물의 역할을 주고 독일의 역사에 대해 일기를 쓰도록 했다. "너는 1900년에 베를린 매춘부의 자식으로 태어났어" 라는 가정을 전달받은 학생은 1914년 제1차 세계 대전이나 1920년대 나치당과 히틀러의 등장을 어떤 시각으로 바라볼까?

원래 존재하지도 않았던 고정 관념을 만들어 낼 수도 있다는...유럽계 미국인 남학생들에게 아시아계 미국인들이 수학 성적이 더 좋다고 말하자, 그들은 곧장 고정 관념의 피해자가 되고 말았다. ... "네가 그렇게 똑똑하다면 왜 부자가 못 됐어?"라는 말은 가난한 사람은 우둔하다는 고정 관념이 되고, 그러한 이미지는 저소득 가정 출신 학생들의 학습을 저하시킬 수 있다.

우리는 자신의 다양한 역할을 통해 정체성을 구축해 나가는데, 자신과 동일시하는 집단이 추한 고정 관념의 표적이 되면, 다른 사람들의 시선을 의식하며 두려움과 자기 비하에 빠진다. ... 기차가 다가온다는 걸 안다면, 기차에 치이는 일을 피할 수 있다. 자신의 정체성, 특별한 자질, 경험을 즐기고 고맙게 여길 줄 안다면, 자아의 존엄성을 계속 지킬 수 있다.