공부하려고 만든 블로그

■ 카카오 블라인드 코딩 시험 (자카드 유사도 알고리즘)

뉴스 클러스터링(난이도: 중)

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 “카카오 신입 개발자 공채” 관련 기사를 검색해보았다.

• 카카오 첫 공채..’블라인드’ 방식 채용
• 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
• 카카오, 블라인드 전형으로 신입 개발자 공채
• 카카오 공채, 신입 개발자 코딩 능력만 본다
• 카카오, 신입 공채.. “코딩 실력만 본다”
• 카카오 “코딩 능력만으로 2018 신입 개발자 뽑는다”

기사의 제목을 기준으로 “블라인드 전형”에 주목하는 기사와 “코딩 테스트”에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 “자카드 유사도”라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 “1”을 3개 가지고 있고, 다중집합 B는 원소 “1”을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 “1”을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 “1”을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 “FRANCE”와 “FRENCH”가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력 형식

• 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
• 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 “ab+”가 입력으로 들어오면, “ab”만 다중집합의 원소로 삼고, “b+”는 버린다.
• 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. “AB”와 “Ab”, “ab”는 같은 원소로 취급한다.

출력 형식

입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

예제 입출력

str1str2answer

문제 해설

이 문제는 자카드 유사도를 설명해주고 자카드 유사도를 직접 계산하는 프로그램을 작성하는 문제입니다. 자카드 유사도는 실무에서도 유사한 문서를 판별할 때 주로 쓰이는데요, 몰랐더라도 문제에서 자세히 설명해주기 때문에 이해하는데 어려움은 없었을 거 같습니다. 공식은 매우 간단한데요, 교집합을 합집합으로 나눈 수입니다. 다만, 이 값은 0에서 1 사이의 실수가 되는데, 여기서는 이를 다루기 쉽도록 65536을 곱한 후 소수점 아래를 버리고 정수부만 취하도록 합니다.

문제 설명은 원소의 중복을 허용하는 다중집합multiset으로 되어 있는데, 자주 접하는 자료구조가 아니고, 일부 언어에서는 기본으로 제공하는 자료구조가 아니라 어려워하는 분들이 있었습니다. 하지만 다중집합 자료구조를 쓰지 않더라도, 각 원소를 정렬된 배열에 넣은 후 병합 정렬Merge sort에서 배웠던 코드를 응용, 어렵지 않게 합집합과 교집합 함수를 직접 구현할 수도 있습니다.

다중집합의 교집합, 합집합만 잘 구해낸다면 이 문제는 어렵지 않게 풀 수 있으며, 다만 집합 A와 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으므로division by zero 따로 J(A,B) = 1로 정의합니다. 즉, 65536을 곱하면 이 경우 1 * 65536 = 65536이 정답이 됩니다. 예제 입출력에도 합집합이 공집합인 경우가 포함되어 있으므로 이 경우만 주의한다면 쉽게 풀 수 있는 문제입니다.

이 문제의 정답률은 41.84%입니다.

W1 = input('문자열을 입력해주세요. : ')
W2 = input('문자열을 입력해주세요. : ')

def jaccard(word1,word2) :
    a = []
    b = []
    
    # 문자로만 이루어진 길이 2의 단어를 a 리스트에 삽입
    for i in range(len(word1)-1) :
        if word1[i:i+2].isalpha() == True :
            a.append(word1[i:i+2].upper())
            
    # 문자로만 이루어진 길이 2의 단어를 b 리스트에 삽입
    for i in range(len(word2)-1) :
        if word2[i:i+2].isalpha() == True :
            b.append(word2[i:i+2].upper())
            
    # 교집합 (크기가 작은 리스트에 있는 원소들이 크기가 큰 리스트에 존재하면 교집합 성사)
    intersection = 0
    for i in min(a,b) :
        if max(a,b).count(i) != 0 :
            intersection += 1
    
    # 합집합 = 집합 + 집합 - 교집합
    union = len(a) + len(b) - intersection
    
    # 공집합일 경우 1로 65536 출력
    if union == 0 : # if len(a) == 0 and len(b) == 0
        return 65536

    return int(intersection/union * 65536)
    
jaccard(W1,W2)
#jaccard('FRANCE','french')
#jaccard('handshake','shake hands')
#jaccard('aa1+aa2','AAAA12')
#jaccard('E=M*C^2','e=m*c^2')

참고 사이트

1. 리스트 이해하기 / 리스트 합치기 (+) , 반복 (*)

2. 리스트에서 특정 요소 찾기 / 바꾸기 등

3. 슬라이싱 이해하기

4. 리스트 역순 (reverse,reversed)

5. len / count / append / insert / del / remove

6. 리스트 요소 정렬 (sort,sorted)

7. pop(del처럼 특정 위치에서 꺼낼 수 있음) / extend

8. shuffle

9. enumerate

■ 카카오 블라인드 코딩 시험 (LRU 알고리즘) 

캐시(난이도: 하)

지도개발팀에서 근무하는 제이지는 지도에서 도시 이름을 검색하면 해당 도시와 관련된 맛집 게시물들을 데이터베이스에서 읽어 보여주는 서비스를 개발하고 있다.
이 프로그램의 테스팅 업무를 담당하고 있는 어피치는 서비스를 오픈하기 전 각 로직에 대한 성능 측정을 수행하였는데, 제이지가 작성한 부분 중 데이터베이스에서 게시물을 가져오는 부분의 실행시간이 너무 오래 걸린다는 것을 알게 되었다.
어피치는 제이지에게 해당 로직을 개선하라고 닦달하기 시작하였고, 제이지는 DB 캐시를 적용하여 성능 개선을 시도하고 있지만 캐시 크기를 얼마로 해야 효율적인지 몰라 난감한 상황이다.

어피치에게 시달리는 제이지를 도와, DB 캐시를 적용할 때 캐시 크기에 따른 실행시간 측정 프로그램을 작성하시오.

입력 형식

• 캐시 크기(cacheSize)와 도시이름 배열(cities)을 입력받는다.
• cacheSize는 정수이며, 범위는 0 ≦ cacheSize ≦ 30 이다.
• cities는 도시 이름으로 이뤄진 문자열 배열로, 최대 도시 수는 100,000개이다.
• 각 도시 이름은 공백, 숫자, 특수문자 등이 없는 영문자로 구성되며, 대소문자 구분을 하지 않는다. 도시 이름은 최대 20자로 이루어져 있다.

출력 형식

• 입력된 도시이름 배열을 순서대로 처리할 때, “총 실행시간”을 출력한다.

조건

• 캐시 교체 알고리즘은 LRU(Least Recently Used)를 사용한다.
• cache hit일 경우 실행시간은 1이다.
• cache miss일 경우 실행시간은 5이다.

입출력 예제

문제 해설

여기서부터 문제가 좀 어려워졌던 거 같습니다. 정답률이 많이 낮은데요. 이 문제는 ‘조건’에도 나와있지만 LRU 캐시 교체 알고리즘을 구현하는 문제이고, 이미 잘 알고 있다면 또는 검색해봤다면 잘 구현된 LRU 알고리즘 코드는 많이 찾을 수 있습니다.

단, 이 문제에는 입출력 예제에 캐시 사이즈 0이 포함되어 있습니다. 공개된 대부분의 LRU 구현 코드는 0일 때의 비정상적인 상황은 가정하지 않고 있기 때문에 생각 없이 그냥 가져와 붙인다면 에러가 나서 많이 고생했을 거 같네요. 하지만 사이즈 0을 처리하는 예외 처리 자체는 어렵지 않게 구현할 수 있으므로 입출력 예제가 왜 자꾸 틀리는지를 유심히 살펴봤다면 쉽게 풀 수 있는 문제입니다.

아울러 검색해서 가져온 코드는 반드시 사용 가능한지 라이선스를 확인하고, 가져올 때는 꼭 출처를 명시해야 한다는 점 잊지 마세요.

이 문제의 정답률은 45.26%입니다.

# LRU 알고리즘
def cacheProcess(data,cache_size) :
    if cache_size == 0 : # 캐시가 없으면 바로 return
    	return len(data) * 5
    count = 5 # 어차피 처음 들어가는 놈은 무조건 +5 니까 애초에 5로 선언
    cache = []
    cache.append(data.pop().lower()) # 대소문자 구분 안하기 때문에 대소문자 일괄 통일하여 넣기
    for i in range(len(data)+1) : # data 크기만큼 돌기
        if not data : # 비어있다면 return
            return count
        a = data[-1].lower() # 나는 걍 뒤부터 하나씩 뽑아냄
        if a in cache : # 뽑은 도시가 cache에 있다면 +1
            count += 1
            cache.remove(a) # LRU의 특징인 최근 검색 자료를 제일 앞으로 보내주기 위해 과거의 cache 지우고 
            cache.append(data.pop().lower()) # 새로운 것을 넣어 MRU 위치에 넣어줌
        else :
            if len(cache) == cache_size : # cache 사이즈가 꽉 차면 LRU를 지움
                del cache[0] 
            cache.append(data.pop().lower())
            count += 5
        
        
# 정답 확인 코드 (대충만들어서 더럽습니다만.. 이해좀ㅎ)
check = []
a = cacheProcess(["Jeju", "Pangyo", "Seoul", "NewYork", "LA", "Jeju", "Pangyo", "Seoul", "NewYork", "LA"],3)
check.append(a)
a = cacheProcess(["Jeju", "Pangyo", "Seoul", "Jeju", "Pangyo", "Seoul", "Jeju", "Pangyo", "Seoul"],3)
check.append(a)
a = cacheProcess(["Jeju","Pangyo","Seoul","NewYork","LA","SanFrancisco","Seoul","Rome","Paris","Jeju","NewYork","Rome"],2)
check.append(a)
a = cacheProcess(["Jeju","Pangyo","Seoul","NewYork","LA","SanFrancisco","Seoul","Rome","Paris","Jeju","NewYork","Rome"],5)
check.append(a)
a = cacheProcess(["Jeju","Pangyo",'NewYork','newyork'],2)
check.append(a)
a = cacheProcess(["Jeju","Pangyo","Seoul","NewYork","LA"],0)
check.append(a)
a = cacheProcess(['Jeju', 'Jeju','Jeju'],3)
check.append(a)

# print(check)
correct = [50,21,60,52,16,25,7]

for i in range(len(check)) :
    if check[i] != correct[i] :
        print("%i번째 경우가 틀립니다."%i)

참고 사이트

1. 문자열 이해하기

2. 문자열 합치기 (+) / 반복 (*)

3. 슬라이싱 이해하기

4. count / find / index

5. 문자열 삽입 (join)

6. 대문자 (upper) / 소문자 (lower) 반환

7. 문자열 검사 (isalpha) / 숫자 검사 (isdigit) / 공백 검사 (isspace) / 특수 문자+공백 검사 (isalnum)

8. 공백 제거 (lstrip, rstrip, strip)

9. 특정 문자(열)로 분리 (split)

10. 특정 문자(열) 대체 (replace)

합병 정렬 이해는 가는데 상당히 직관적이지 못하다.. 나만 그런가 코드가 직관적이게 안나와서 디버깅 필수...

무족권 해야됨... 아무튼.. 정말 도움 많이 받은 이미지랑 블로그를 소개하겠다.

직관적으로 이해하기 가장 좋은 이미지

저 움짤도 매우 친절하지만 글로도 친절히 설명되어 있는 블로그가 있어서 소개한다. 아마 대부분 합병 정렬 찾으면 이 분 블로그로 공부했겠지! 합병 정렬 말고도 다양한 정렬에 대해서 다 정리해주셔서 정말 감사하게 잘 공부했다.

이 블로그는 좀 추상적이었던 개념을 조금 더 코드적으로 이해하게 해준다! 이 블로그 덕에 merge 함수를 이해했다.

합병 정렬 코드

a = [21,10,20,12,35,13,17,15]

# 전부 쪼개는데 짝을 지으면서 쪼개가는 과정
def merge_sort(data) :
    if len(data) <= 1 :
        return data
    
    # 반씩 나눠서 쪼개기
    a = data[:len(data)//2]
    b = data[len(data)//2:]
    
    # 시각적으로 확인하기
    
    split_a = merge_sort(a)
    split_b = merge_sort(b)
    
    return merge(split_a,split_b) # ((([21], [10]), ([20], [12])), (([35], [13]), ([17], [15])))

def merge(left, right):
    result = []
    #import ipdb; ipdb.set_trace()
    while len(left) > 0 or len(right)>0:
        if len(left) > 0 and len(right) > 0:
            if left[0] <= right[0]:
                result.append(left[0])
                left=left[1:]
            else:
                result.append(right[0])
                right = right[1:]
        elif len(left) > 0:
            result.append(left[0])
            left = left[1:]
        elif len(right) > 0:
            result.append(right[0])
            right = right[1:]
    return result

merge_sort(a)

개인적으로 merge_sort 함수 자체는 이해하기 쉽고 직접 만들 수 있었는데 문제는 merge 함수가 정말 직관적이지 못했다. 그래서 디버깅을 했다. 디버깅 하면 이해가 아주 쉽게 된다. 디버깅 무족권들 하세요ㅠㅠ;;

디버깅하는 방법 참고 링크

국비지원으로 인공지능 학원을 다니다보니 수학공부를 빡세게 하게 되었는데,

공부하던 중에 정말 좋은 참고자료들이 널려서 공유하고자하는 마음 반, 내가 나중에 볼 때 정리된 걸로 보려고 하는 마음 반으로 블로그에 기재하겠다!

킹갓 제너럴 성균관대 수학과 이상구 교수님

https://www.youtube.com/watch?v=o-7gN6RAUMs&list=PL2AeS_c1znK_ZPc4KdPCofbN5VXJOyPLh

나는 성균관대도 다니지 않고, 수학과는 더더욱 아닌 공대생이지만 이상구 교수님의 수업자료와 그 꼼꼼함에 약간 눈물이 났다... 교수님... 너무 엔젤 아니신지ㅠ... 수학과 학생들을 위한 강의이지만 전자공학, 기계공학 등 아무튼 공대생이면 교수님의 설명을 전부는 아니여도 맥락적으로 이해할 수 있다. 그리고 더더욱 중요한 것은 교수님의 수업을 차마 이해하지 못한다고 하더라도 교수님의 강의 자료 목차만 보면 된다는 것... 강의 자료 쭉 읽다 이해 안가면.. 그냥 목차 보면서 찾으면서 공부하면 될 정도로 너무 친절하게 잘 되어있다... 교수님 정말 존경합니다ㅠㅠ...

Part 1,2,3,4가 내가 첨부한 동영상의 큰 맥락이고 그 아래는 교수님 친절한 동영상 링크들...

아, 그리고 교수님이 정말 더 존경스러운건 코드로 다 구현해놓으셔서 알고 있는 개념들을 슥슥 넘어가기 정말 편하다. 어차피 계산은 컴퓨터가 할껀데 내가 뭐하러 손으로 고생하겠어ㅠ (근데 나는 애초에 개념 몰라서 손으로 공부했음) 나같은 경우는 이미 인공지능을 공부한 경험도 있고, 미적분은 전공때문에 꽤 했기 때문에 엄청 어렵지는 않았는데, 선형대수를... 내가... 내 전공에서는 제대로 써먹지를 않아서... 대충 했더니.. 시험도 말아먹고... 개념도 말아먹어서... 진짜 고생했다... 나는 행렬이랑 확률 특유의 그 슉슉하는... 뭐가 자꾸 없어지고 간결해지는데 지 혼자만 간결해지는 그런게 넘 싫어... 미적분을 봐.. 그냥 같이 고생하잖아... 왜 너네는 너네끼리 놀아...? 인간인 나를 왜 왕따시켜...? ㅠ...

쑤튜브 선형대수학 강의모음

https://www.youtube.com/watch?v=x-Ewz1ukXEA&list=PLdEdazAwz5Q_n47tqf0QY94ASCmWqeGX1

이상구 교수님의 강의가 어쨌든 전공생을 위한 것이기 때문에 무척 친절하게 설명한다고는 생각하지만 내 가방끈이 짧아서 이해를 못하는 부분이 많았다. 특히 정규직교화라던지 핵과 치역.. 고유값... 특이값 분해... 그게 뭔데요! 그래서 유튜브를 전전했더니 이렇게 좋은 동영상이 있었다! 이 분의 설명이 나랑 진짜 잘맞아서 도움을 정말 많이 받았다. 친절하고 적당한 속도로 하나하나 증명해주면서 설명해줬기 때문에 나같은 똥멍청이도 따라가는데 어려움이 없었다. 다들 이상구 교수님의 설명 중에 이해 못하는 부분이 있으면 이 분의 동영상을 참고하길 바란다!

+

아직 전부 공부한게 아니라서 곧 추가할 예정.....

이라고 했지만 막상 이정도만 공부해도 어느정도는 다 이해할 수 있다....가 결론이다

다들 열공 화이팅!

import time
N = int(input('크기를 입력하세요:'))
a = np.random.randint(1000, size=N)

start = time.time()

def insert_sort(data,sort) :
    # 오름차순
    if sort == 0 :
        for i in range(1,len(data)) :
            for j in range(i) :
                if data[i] < data[j] :
                    temp = data[i]
                    data[i] = data[j]
                    data[j] = temp
    # 내림차순  
    elif sort == 1 :
        for i in range(1,len(data)) :
            for j in range(i) :
                if data[i] > data[j] :
                    temp = data[i]
                    data[i] = data[j]
                    data[j] = temp
    return data

print(insert_sort(a,0))
print("time : ",time.time() - start)


###################################################################################
# 버블정렬과의 시간 차이 확인하기

import numpy as np
start = time.time()

def bubble_sort(data) :
    loop = 0
    while 1 :
        count = 0
        for i in range(len(data)-1) :
            if data[i] > data[i+1] :
                temp = 0
                temp = data[i]
                data[i] = data[i+1]
                data[i+1] = temp
            else :
                count += 1
        loop+=1
        if count == len(data)-1 :
            break
        
    return data , loop

print('정렬후:', bubble_sort(a))
print("time : ",time.time() - start)

# 삽입정렬이 버블정렬보다 훨씬 빠르다

정렬 알고리즘 속도 비교