머학원생(이 아니게된) 블로그

1. intro - slot filling은 sequential labeling task로 취급됨. - sequence tagging에 사용할 수 있는 조건부 무작위장(CRF) 등과 함께, RNN 및 CNN 구조를 사용하여 context를 고려하는 word representation을 학습한다. - word level slot filling 과 utterance level intent detection은 동시에 수행되어 협력적인 효과를 낼 수 있다. - 어떤 단어가 slot "artist"로 분류되었다면 intent는 "AddtoPlayList"등이 "GetWeather"와 같은 경우 보다 더 그럴듯 할 것이다. - RNN의 마지막 hidden state, CNN output의 attention-weig..

글 쓰다가 다 날려먹었다. 신나서 쓰고 있었는데 ㅠㅠ 새로 산 LG gram에 우분투 듀얼부팅을 하기 위해 블프 때 WD Black 1TB SSD를 구입해서, 여기다가 우분투를 설치하려고 했으나 설치가 되지 않았다. 두 가지 문제가 있었는데 1. 무한 ACPI 에러 2. \EFI\BOOT\NULL - Not Found 에러가 잠깐 화면 왼쪽 위에 떴다가 윈도우로 부팅됨 사실 2번 문제가 거의 대부분이었다. 이 문제를 해결하기 위해 열심히 구글링을 했으나, 제시된 해결책으로도 해결되지 않았고, 그래서 우분투 설치를 포기해야하나... 했는데, 결과적으로는 성공했다. 지금 이 글도 우분투 19.10에서 쓰고 있다. 해결 방법은 쿠분투(Kubuntu) 18.04 LTS 버전을 설치하는 것(?!). 18.04.x..

새로 산 그램에 1TB SSD를 박아, 리눅스를 설치하였기 때문에, 기존에 리눅스 노트북으로 쓰던 MSI PS42 8M 노트북이 그 존재 가치를 상실하였다. 따라서 그걸 팔고 45만원을 손에 넣었다. 마침 태블릿 PC를 하나 새로 사고 싶었기 때문에, 45 + 33만원을 들여서 갤럭시탭 S6를 질렀다. 위메프에서 쿠폰 먹이니까 11만원 정도 할인해서 살 수 있었다. Wi-Fi 256GB 모델이다. 상자다. 플래그십 태블릿PC는 예엣날 예엣적 갤럭시탭 Wibro 모델을 썼던 이후로 처음이다. 씰 자르고 오픈! 상자 열면 탭S6가 이렇게 있다. 나름 충실한 듯 하다. 3.5mm 이어폰 단자가 없기 때문에, C-type 이어폰이 기본 구성품으로 들어가 있다. 그러나 나는 갤럭시 버즈를 쓸 것이므로... 고이 ..

시프 복습 시-작! 정보를 비트로 나타내기 컴퓨터에서는 정보를 왜 이진수로 표현하는가? 전압의 높고 낮음을 이용하여 정보의 입력을 받는다. 바이트(Byte) = 8비트(Bit) 한 바이트가 표현할 수 있는 최대 십진수 값: 255 0~(28-1)까지 표현가능하다. 16진수로 표현하면 FF16, C에서는 0xFF16로 표현. 바이트 기반 메모리 주소표현 한 프로그램은 가상 메모리를 갖고, 가상 메모리로 표현된 주소를 갖고 연산을 수행한다. 따라서, 각각의 프로그램들은 메모리를 통째로 자신이 사용한다고 취급하지만, 사실은 그렇지 않다(페이징 등의 방식을 사용). 실행 중인 프로그램을 프로세스라고 한다. 시스템은 이러한 프로세스들에게 적절히 주소 공간을 제공한다. 각 프로세스는 다른 프로세스에 영향을 주어서는..

Theorem 7. The Unique Representation Theorem 어떤 벡터공간 V와 V의 basis B에 대해서, V에 속한 모든 벡터 x는 B에 속한 벡터들의 Weighted Sum으로 나타내어질 수 있고, 그 Weight 벡터는 유일하다. Definition Theorem 7에 의해, V에 속한 벡터 x의 weight vector를 basis B에 대한 x의 좌표(coordinates of x relative to the basis B), 혹은 x의 B-좌표(B-coordinates of x)라고 한다. B-coordinates of x는 [x]b로 표현한다. x에서 [x]b로의 mapping을 coordinate mapping이라고 한다. Rn에서의 좌표 Rn에서의 basis B, ..

Remark: 선형독립(Linearly Independent)이란? 어떤 벡터들의 집합에 속한 모든 벡터들이 서로서로 선형결합으로 이루어지지 않는 경우 Theorem 4. 어떤 벡터 집합이 있고, v_1이 영벡터가 아니며 그 집합에 속한 p개의 벡터들에 대해서, 그 벡터 집합이 선형종속이라는 것은 어느 한 경우라도 v_j가 선행하는 벡터 v_1, ..., v_(j-1)까지의 선형결합으로 이루어지는 경우를 말한다. Basis Definition 어떤 벡터공간 V가 있고, 그 Subspace를 W라고 하자. 다음의 조건을 만족하면, 그 벡터집합 B를 W의 Basis라고 한다. B는 선형독립인 집합이다. 벡터집합 B는 W를 span한다. 즉, W = span{b_1, b_2, ..., b_p} W를 span하..

CV 과제해야 되는데... 과목들한테서 핀포인트로 조져지는 것 같네 ㅎㅎ; 작성자의 상태에 따라 잘못된 내용이 있을 수 있읍니다. 댓글 & 지적 환영 Triangulation 어떤 3D 좌표상의 점 X에 대해, 2개의 카메라가 다른 각도로 그 점을 촬영했다고 생각해보자. 각 카메라는 서로 다른 Camera Matrix P와 P'을 가질 것이고, 그 Image 상에 서로 다른 점 x, x'에 X가 projection 되었을 것이다. P, P', x, x'이 모두 주어졌다고 가정한다. Image 1번의 점 x와 3D 좌표 X를 잇는 선(ray)을 어떻게 구할 수 있을까? 카메라의 원점을 찾고, Camera Matrix P의 pseudo-inverse Matrix P+를 x에 곱해준다. 그런데, P+는 완전한..

수업 내용을 정리한 것이므로, 작성자의 상태에 따라 잘못된 부분이 있을 수 있읍니다. 댓글 & 지적 환영 실제 세계에서의 사물에서 반사된 빛을 센서에 그대로 담는다면? 사물에 반사된 빛은 난반사를 일으켜, 센서의 모든 픽셀에 빛이 도달할 것이다. 따라서, 센서를 통해 본 사물은 그 형체를 알아볼 수 없다. 간단한 Solution 빛 한가닥만이 지나갈 수 있는 아주 좁은 구멍(Pinhole)을 만드는 것. 한가닥 빛은 하나의 픽셀에만 닿을 것이다. 따라서, 센서를 통해 물체를 선명하게 볼 수 있다. Pinhole Camera(바늘구멍 카메라) 물체(Object)와 센서(CCD 혹은 CMOS) 사이에 가림막(barrier)이 있고, 중간에 아주 작은 구멍(pinhole, aperture) 하나가 뚫려있다. ..

수업 내용을 정리한 것이므로, 작성자의 상태에 따라 잘못된 내용이 적힐 수 있습니다. 오류사항 있으면 지적부탁드립니다 헿 Model-based RL? Model-based Planning과는 다르다. 경험(experience)을 통해 Model을 직접 학습한다(즉 처음부터 Model을 알고 시작하지 않는다). Model의 Transition Probability를 하나하나 알아내는 것이 아니다. Model을 근사하는 것(approximation)이라고 볼 수 있다. 근사한 Model을 기반으로 가상 환경(environment)를 구축해볼 수 있다. 그 환경에서 Sampling을 수행하여, 이를 통해 얻은 정보를 가지고 Model-free RL을 수행한다. 실제 environment를 통한 RL 또한 병행..

수업 들은 내용을 정리한 글입니다. 작성자의 상태에 따라 잘못되거나 이상한 부분이 있을 수 있습니다. 댓글 환영 ㅎㅎ Policy-based RL RL의 한 방법으로서, "Policy"를 학습하는 방식 Model-free RL이다. Policy를 단독으로 학습시키면, 잘 되지 않기 때문에, 실질적으로 Value Function의 도움이 필요하다. Policy-based RL의 장단점 장점 Convergence가 잘된다. 즉, 비교적 Bias가 적고, Oscillation이 없다. DQN의 경우 학습하는 동안 최근 100개에 대한 oscillation이 존재한다. Action의 수가 엄청 많거나, 연속인 경우에서도 잘 학습할 수 있다. Value-based RL의 경우 Action의 수가 너무 많으면 학습..