공부하려고 만든 블로그

■ 카카오 블라인드 코딩 시험 (자카드 유사도 알고리즘)

뉴스 클러스터링(난이도: 중)

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 “카카오 신입 개발자 공채” 관련 기사를 검색해보았다.

• 카카오 첫 공채..’블라인드’ 방식 채용
• 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
• 카카오, 블라인드 전형으로 신입 개발자 공채
• 카카오 공채, 신입 개발자 코딩 능력만 본다
• 카카오, 신입 공채.. “코딩 실력만 본다”
• 카카오 “코딩 능력만으로 2018 신입 개발자 뽑는다”

기사의 제목을 기준으로 “블라인드 전형”에 주목하는 기사와 “코딩 테스트”에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 “자카드 유사도”라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 “1”을 3개 가지고 있고, 다중집합 B는 원소 “1”을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 “1”을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 “1”을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 “FRANCE”와 “FRENCH”가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력 형식

• 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
• 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 “ab+”가 입력으로 들어오면, “ab”만 다중집합의 원소로 삼고, “b+”는 버린다.
• 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. “AB”와 “Ab”, “ab”는 같은 원소로 취급한다.

출력 형식

입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

예제 입출력

str1str2answer

문제 해설

이 문제는 자카드 유사도를 설명해주고 자카드 유사도를 직접 계산하는 프로그램을 작성하는 문제입니다. 자카드 유사도는 실무에서도 유사한 문서를 판별할 때 주로 쓰이는데요, 몰랐더라도 문제에서 자세히 설명해주기 때문에 이해하는데 어려움은 없었을 거 같습니다. 공식은 매우 간단한데요, 교집합을 합집합으로 나눈 수입니다. 다만, 이 값은 0에서 1 사이의 실수가 되는데, 여기서는 이를 다루기 쉽도록 65536을 곱한 후 소수점 아래를 버리고 정수부만 취하도록 합니다.

문제 설명은 원소의 중복을 허용하는 다중집합multiset으로 되어 있는데, 자주 접하는 자료구조가 아니고, 일부 언어에서는 기본으로 제공하는 자료구조가 아니라 어려워하는 분들이 있었습니다. 하지만 다중집합 자료구조를 쓰지 않더라도, 각 원소를 정렬된 배열에 넣은 후 병합 정렬Merge sort에서 배웠던 코드를 응용, 어렵지 않게 합집합과 교집합 함수를 직접 구현할 수도 있습니다.

다중집합의 교집합, 합집합만 잘 구해낸다면 이 문제는 어렵지 않게 풀 수 있으며, 다만 집합 A와 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으므로division by zero 따로 J(A,B) = 1로 정의합니다. 즉, 65536을 곱하면 이 경우 1 * 65536 = 65536이 정답이 됩니다. 예제 입출력에도 합집합이 공집합인 경우가 포함되어 있으므로 이 경우만 주의한다면 쉽게 풀 수 있는 문제입니다.

이 문제의 정답률은 41.84%입니다.

W1 = input('문자열을 입력해주세요. : ')
W2 = input('문자열을 입력해주세요. : ')

def jaccard(word1,word2) :
    a = []
    b = []
    
    # 문자로만 이루어진 길이 2의 단어를 a 리스트에 삽입
    for i in range(len(word1)-1) :
        if word1[i:i+2].isalpha() == True :
            a.append(word1[i:i+2].upper())
            
    # 문자로만 이루어진 길이 2의 단어를 b 리스트에 삽입
    for i in range(len(word2)-1) :
        if word2[i:i+2].isalpha() == True :
            b.append(word2[i:i+2].upper())
            
    # 교집합 (크기가 작은 리스트에 있는 원소들이 크기가 큰 리스트에 존재하면 교집합 성사)
    intersection = 0
    for i in min(a,b) :
        if max(a,b).count(i) != 0 :
            intersection += 1
    
    # 합집합 = 집합 + 집합 - 교집합
    union = len(a) + len(b) - intersection
    
    # 공집합일 경우 1로 65536 출력
    if union == 0 : # if len(a) == 0 and len(b) == 0
        return 65536

    return int(intersection/union * 65536)
    
jaccard(W1,W2)
#jaccard('FRANCE','french')
#jaccard('handshake','shake hands')
#jaccard('aa1+aa2','AAAA12')
#jaccard('E=M*C^2','e=m*c^2')

■ 카카오 블라인드 코딩 시험 (LRU 알고리즘) 

캐시(난이도: 하)

지도개발팀에서 근무하는 제이지는 지도에서 도시 이름을 검색하면 해당 도시와 관련된 맛집 게시물들을 데이터베이스에서 읽어 보여주는 서비스를 개발하고 있다.
이 프로그램의 테스팅 업무를 담당하고 있는 어피치는 서비스를 오픈하기 전 각 로직에 대한 성능 측정을 수행하였는데, 제이지가 작성한 부분 중 데이터베이스에서 게시물을 가져오는 부분의 실행시간이 너무 오래 걸린다는 것을 알게 되었다.
어피치는 제이지에게 해당 로직을 개선하라고 닦달하기 시작하였고, 제이지는 DB 캐시를 적용하여 성능 개선을 시도하고 있지만 캐시 크기를 얼마로 해야 효율적인지 몰라 난감한 상황이다.

어피치에게 시달리는 제이지를 도와, DB 캐시를 적용할 때 캐시 크기에 따른 실행시간 측정 프로그램을 작성하시오.

입력 형식

• 캐시 크기(cacheSize)와 도시이름 배열(cities)을 입력받는다.
• cacheSize는 정수이며, 범위는 0 ≦ cacheSize ≦ 30 이다.
• cities는 도시 이름으로 이뤄진 문자열 배열로, 최대 도시 수는 100,000개이다.
• 각 도시 이름은 공백, 숫자, 특수문자 등이 없는 영문자로 구성되며, 대소문자 구분을 하지 않는다. 도시 이름은 최대 20자로 이루어져 있다.

출력 형식

• 입력된 도시이름 배열을 순서대로 처리할 때, “총 실행시간”을 출력한다.

조건

• 캐시 교체 알고리즘은 LRU(Least Recently Used)를 사용한다.
• cache hit일 경우 실행시간은 1이다.
• cache miss일 경우 실행시간은 5이다.

입출력 예제

문제 해설

여기서부터 문제가 좀 어려워졌던 거 같습니다. 정답률이 많이 낮은데요. 이 문제는 ‘조건’에도 나와있지만 LRU 캐시 교체 알고리즘을 구현하는 문제이고, 이미 잘 알고 있다면 또는 검색해봤다면 잘 구현된 LRU 알고리즘 코드는 많이 찾을 수 있습니다.

단, 이 문제에는 입출력 예제에 캐시 사이즈 0이 포함되어 있습니다. 공개된 대부분의 LRU 구현 코드는 0일 때의 비정상적인 상황은 가정하지 않고 있기 때문에 생각 없이 그냥 가져와 붙인다면 에러가 나서 많이 고생했을 거 같네요. 하지만 사이즈 0을 처리하는 예외 처리 자체는 어렵지 않게 구현할 수 있으므로 입출력 예제가 왜 자꾸 틀리는지를 유심히 살펴봤다면 쉽게 풀 수 있는 문제입니다.

아울러 검색해서 가져온 코드는 반드시 사용 가능한지 라이선스를 확인하고, 가져올 때는 꼭 출처를 명시해야 한다는 점 잊지 마세요.

이 문제의 정답률은 45.26%입니다.

# LRU 알고리즘
def cacheProcess(data,cache_size) :
    if cache_size == 0 : # 캐시가 없으면 바로 return
    	return len(data) * 5
    count = 5 # 어차피 처음 들어가는 놈은 무조건 +5 니까 애초에 5로 선언
    cache = []
    cache.append(data.pop().lower()) # 대소문자 구분 안하기 때문에 대소문자 일괄 통일하여 넣기
    for i in range(len(data)+1) : # data 크기만큼 돌기
        if not data : # 비어있다면 return
            return count
        a = data[-1].lower() # 나는 걍 뒤부터 하나씩 뽑아냄
        if a in cache : # 뽑은 도시가 cache에 있다면 +1
            count += 1
            cache.remove(a) # LRU의 특징인 최근 검색 자료를 제일 앞으로 보내주기 위해 과거의 cache 지우고 
            cache.append(data.pop().lower()) # 새로운 것을 넣어 MRU 위치에 넣어줌
        else :
            if len(cache) == cache_size : # cache 사이즈가 꽉 차면 LRU를 지움
                del cache[0] 
            cache.append(data.pop().lower())
            count += 5
        
        
# 정답 확인 코드 (대충만들어서 더럽습니다만.. 이해좀ㅎ)
check = []
a = cacheProcess(["Jeju", "Pangyo", "Seoul", "NewYork", "LA", "Jeju", "Pangyo", "Seoul", "NewYork", "LA"],3)
check.append(a)
a = cacheProcess(["Jeju", "Pangyo", "Seoul", "Jeju", "Pangyo", "Seoul", "Jeju", "Pangyo", "Seoul"],3)
check.append(a)
a = cacheProcess(["Jeju","Pangyo","Seoul","NewYork","LA","SanFrancisco","Seoul","Rome","Paris","Jeju","NewYork","Rome"],2)
check.append(a)
a = cacheProcess(["Jeju","Pangyo","Seoul","NewYork","LA","SanFrancisco","Seoul","Rome","Paris","Jeju","NewYork","Rome"],5)
check.append(a)
a = cacheProcess(["Jeju","Pangyo",'NewYork','newyork'],2)
check.append(a)
a = cacheProcess(["Jeju","Pangyo","Seoul","NewYork","LA"],0)
check.append(a)
a = cacheProcess(['Jeju', 'Jeju','Jeju'],3)
check.append(a)

# print(check)
correct = [50,21,60,52,16,25,7]

for i in range(len(check)) :
    if check[i] != correct[i] :
        print("%i번째 경우가 틀립니다."%i)

합병 정렬 이해는 가는데 상당히 직관적이지 못하다.. 나만 그런가 코드가 직관적이게 안나와서 디버깅 필수...

무족권 해야됨... 아무튼.. 정말 도움 많이 받은 이미지랑 블로그를 소개하겠다.

직관적으로 이해하기 가장 좋은 이미지

저 움짤도 매우 친절하지만 글로도 친절히 설명되어 있는 블로그가 있어서 소개한다. 아마 대부분 합병 정렬 찾으면 이 분 블로그로 공부했겠지! 합병 정렬 말고도 다양한 정렬에 대해서 다 정리해주셔서 정말 감사하게 잘 공부했다.

이 블로그는 좀 추상적이었던 개념을 조금 더 코드적으로 이해하게 해준다! 이 블로그 덕에 merge 함수를 이해했다.

합병 정렬 코드

a = [21,10,20,12,35,13,17,15]

# 전부 쪼개는데 짝을 지으면서 쪼개가는 과정
def merge_sort(data) :
    if len(data) <= 1 :
        return data
    
    # 반씩 나눠서 쪼개기
    a = data[:len(data)//2]
    b = data[len(data)//2:]
    
    # 시각적으로 확인하기
    
    split_a = merge_sort(a)
    split_b = merge_sort(b)
    
    return merge(split_a,split_b) # ((([21], [10]), ([20], [12])), (([35], [13]), ([17], [15])))

def merge(left, right):
    result = []
    #import ipdb; ipdb.set_trace()
    while len(left) > 0 or len(right)>0:
        if len(left) > 0 and len(right) > 0:
            if left[0] <= right[0]:
                result.append(left[0])
                left=left[1:]
            else:
                result.append(right[0])
                right = right[1:]
        elif len(left) > 0:
            result.append(left[0])
            left = left[1:]
        elif len(right) > 0:
            result.append(right[0])
            right = right[1:]
    return result

merge_sort(a)

개인적으로 merge_sort 함수 자체는 이해하기 쉽고 직접 만들 수 있었는데 문제는 merge 함수가 정말 직관적이지 못했다. 그래서 디버깅을 했다. 디버깅 하면 이해가 아주 쉽게 된다. 디버깅 무족권들 하세요ㅠㅠ;;

디버깅하는 방법 참고 링크

import time
N = int(input('크기를 입력하세요:'))
a = np.random.randint(1000, size=N)

start = time.time()

def insert_sort(data,sort) :
    # 오름차순
    if sort == 0 :
        for i in range(1,len(data)) :
            for j in range(i) :
                if data[i] < data[j] :
                    temp = data[i]
                    data[i] = data[j]
                    data[j] = temp
    # 내림차순  
    elif sort == 1 :
        for i in range(1,len(data)) :
            for j in range(i) :
                if data[i] > data[j] :
                    temp = data[i]
                    data[i] = data[j]
                    data[j] = temp
    return data

print(insert_sort(a,0))
print("time : ",time.time() - start)


###################################################################################
# 버블정렬과의 시간 차이 확인하기

import numpy as np
start = time.time()

def bubble_sort(data) :
    loop = 0
    while 1 :
        count = 0
        for i in range(len(data)-1) :
            if data[i] > data[i+1] :
                temp = 0
                temp = data[i]
                data[i] = data[i+1]
                data[i+1] = temp
            else :
                count += 1
        loop+=1
        if count == len(data)-1 :
            break
        
    return data , loop

print('정렬후:', bubble_sort(a))
print("time : ",time.time() - start)

# 삽입정렬이 버블정렬보다 훨씬 빠르다

정렬 알고리즘 속도 비교

import numpy as np

N = int(input('크기를 입력하세요:'))
a = np.random.randint(1000, size=N)

# 버블정렬을 할 때 loop 횟수가 비교적 적은 것
def bubble_sort(data) :
    # loop = 0
    while 1 :
        count = 0
        for i in range(len(data)-1) :
            if data[i] > data[i+1] :
                temp = 0
                temp = data[i]
                data[i] = data[i+1]
                data[i+1] = temp
            else :
                count += 1
        # loop+=1
        if count == len(data)-1 :
            break
        
    return data # , loop

print(bubble_sort(a))

##########################################################

# 위와 비교했을 때 비교적 loop 횟수가 많은 것
def bubble_sort_ez(data) :
    # loop = 0
    for j in range(len(data)) :
        for i in range(len(data)-1) :
            if data[i] > data[i+1] :
                temp = 0
                temp = data[i]
                data[i] = data[i+1]
                data[i+1] = temp
        # loop += 1
    return data # , loop

print(bubble_sort_ez(a))

###########################################################

# 재귀함수로 풀이
a = [1,4,3,2,5,8,7,10]

def bubble_sort(data) :

    count = 0
    
    for i in range(len(data)-1) :
        if data[i] > data[i+1] :
            temp = data[i]
            data[i] = data[i+1]
            data[i+1] = temp
            count += 1
            
    if count == 0 :
        return data
        
    return bubble_sort(data)

bubble_sort(a)

###########################################################

# 찐또배기 재귀함수
a=[5,4,3,2,1,8,7,10]

def recur_bubble(a,i=1,b=[]):
    if i==len(a)-1: # 최대 범위 도달 시 다시 처음으로
        b.insert(0,a.pop())
        recur_bubble(a,1,b)    

    else:           
        if len(a)==1: # 길이가 1이면 정렬 완료
            print('정렬 완료')
            b.insert(0,a.pop())
            print(b)
            return b

        elif a[i-1]>a[i]:   # 길이가 1이 아니고, 순서가 다르면 
            a.insert(i-1,a.pop(i))
            recur_bubble(a,i+1,b)          

        else:               # 길이가 1이 아니고 , 순서가 맞으면
            recur_bubble(a,i+1,b)

recur_bubble(a)

while 문으로 풀려고 고생했는데 고생해봤자였다. 어차피 데이터가 10000개 이상이 되면 둘 다 더럽게 느리다!

버블 정렬 너무 구식이야.. ㅠ