BOJ 16920 확장 게임
문제
Tag
- 그래프 이론 33
- NLP 30
- SKKU 29
- Robotics 22
- 그래프 탐색 21
- 다이나믹 프로그래밍 15
- 너비 우선 탐색 13
- 최단 경로 10
- 구현 7
- 그리디 알고리즘 7
- 깊이 우선 탐색 7
- 격자 그래프 7
- 정렬 6
- 자료 구조 6
- 데이크스트라 6
- 수학 5
- 시뮬레이션 4
- 방향 비순환 그래프 4
- 위상 정렬 4
- 트리 3
- 머신러닝 3
- 이분 탐색 3
- 두 포인터 3
- 최소 스패닝 트리 2
- 백트래킹 2
- 배낭 문제 2
- 매개 변수 탐색 2
- 재귀 2
- 누적 합 2
- 스택 2
- 문자열 2
- 우선순위 큐 2
- 분리집합 1
- 거듭제곱 1
- 분할정복 1
- 시물레이션 1
- 트리의 지름 1
- 분할 정복을 이용한 거듭제곱 1
- 벨만–포드 1
- 분할 정복 1
- 슬라이딩 윈도우 1
- 플로이드-워셜 1
- 파싱 1
- 덱 1
- 최장 공통 부분 수열 문제 1
- 0-1 너비 우선 탐색 1
- 강화학습 1
- 조합론 1
- 많은 조건 분기 1
- 최대 부분 배열 문제 1
- 분리 집합 1
- 플로이드–워셜 1
- 역추적 1
그래프 이론
BOJ 5427 불
문제
BOJ 3109 빵집
문제
BOJ 1719 택배
문제
BOJ 2636 치즈
문제
BOJ 1068 트리
문제
BOJ 1766 문제집
문제
BOJ 7569 토마토
문제
BOJ 1865 웜홀
문제
BOJ 2638 치즈
접근 방법
BOJ 1167 트리의 지름
접근 방법 인터넷 검색을 하니까 트리의 지름은 특이한 성질은 가진다고 한다. 임의의 점에서 제일 멀리 있는 노드는 무조건 트리 지름을 구성하는 끝 점 중 하나라고 한다. 따라서 dijkstra를 한번 하여 한 끝점을 구하고 그 끝점에서 dijkstra를 또 해서 지름을 구하였다.
BOJ 1043 거짓말
문제
NLP
AOP: Automated and Interactive LLM Pipeline Orchestration for Answering Complex Queries 리뷰
Background
ACT-SQL: In-Context Learning for Text-to-SQL with Automatically-Generated Chain-of-Thought 리뷰
Background Text to SQL task는 자연어 질문을 주어진 DB 구조에 적합한 SQL query로 변환하는 task이다. 최근 연구들은 cross domain analysis을 기반으로 semantic parser의 발전에 집중하였다. Semantic pars...
Qwen3 Embedding Advancing Text Embedding and Reranking Through Foundation Models 리뷰
Backgroumd 기존에는 text embedding과 re-ranking model을 학습하기 위해 encoder-only 구조의 pre-trained language model (ex: BERT)을 사용했다. 하지만 LLM의 언어 이해 능력이 급격히 상승하면서 LLM을 도입...
LLM2Vec: Large Language Models are Secretly Powerful Text Encoders 리뷰
Background Text embedding model을 구축하기 위해서 보통 pre-trained bidirectional encoder나 encoder-decoder 구조 모델을 사용한다. 반면, decoder only 구조 모델로 text embedding model을 구...
Text Embedding by Weakly-Supervised Contrastive Pre-training 리뷰
Background Text embeddings는 임의의 길이를 가진 text를 낮은 dimension으로 dense하게 표현하는 역할을 한다. 기존의 text 표현 방법인 TF-IDF은 전체 단어의 빈도수에 기반하기 때문에 dimension이 높고 sparse해서 Cosine과...
Active Retrieval Augmented Generation 리뷰
Background
LoRA Low Rank Adaptation of Large Language Models 리뷰
Background NLP task를 수행하기 위해서는 하나의 large scale pretrained Language model을 downstream task 에 특화되도록 finetuning 해야 한다. Parameter가 $\Phi$ 인 pretrained Autoregre...
The Lessons of Developing Process Reward Models in Mathematical Reasoning 리뷰
Background LLM은 수학 추론에 큰 진전을 보이고 있지만 여전히 논리적 / 계산 실수를 한다. 답은 맞추더라도 추론 과정이 그럴 듯 하게 틀리거나 아예 틀리는 경우가 빈번하다. 따라서 Language model의 풀이 step들을 채점해서 어디서 틀렸는지 알려줄 수 있는...
rStar-Math Small LLMS can Master Math Reasoning with Self-Evolved Deep Thinking 리뷰
Background LLM으로 수학 문제를 해결하도록 할 때, 보통 한 번의 추론 과정을 통해 전체 solution을 생성하도록 한다. 이를 System 1 Thinking이라고 한다. Greedy decoding처럼 다음 token 중 확률이 제일 높은 token을...
SimPO Simple Preference Optimization with a Reference-Free Reward 리뷰
Background LLM을 사람의 의도와 align하기 위해서는 human feedback을 학습하는 것이 매우 중요하다. RLHF는 human feedback을 사용하는 성능이 뛰어난 강화학습 방법이다. 하지만 reward model을 학습하고, 그 reward을 최대화하는 ...
Let’s Verify Step by Step 리뷰
Background LLM은 현재 뛰어난 추론 능력을 가지지만 여전히 hallucination으로 인한 오류가 빈번하다. Hallucination은 특히 multi-step reasoning이 요구되는 영역에서 취약하다. Reasoning 과정에서 하나의 논리적 오류가 발생한다면...
ORPO Monolithic Preference Optimization without Reference Model 리뷰
Background LLM이 general한 domain application에 사용되기 위해서는 Instruction tuning과 Preference alignment를 해야 한다. Instruction tuning은 자연어로 된 지시사항을 따르도록 LLM을 학습시키는 과정이...
Direct Preference Optimization Your Language Model is Secretly a Reward Model 리뷰
Background Large scale로 unsupervised learning을 하는 language model들은 지식과 추론 능력을 갖지만 이것이 꼭 올바른 행동으로 이어지지 않는다. 현재 Language model의 행동을 조절하기 위해서 사람이 상대적으로 선호하는 답변...
Proximal Policy Optimization Algorithms 리뷰
Background Neural networks으로 강화학습을 하는 방법으로는 Q-learning과 Vanilla Policy Gradient가 있다. Q-Learning Q-learning은 현재 state s에서 action a를 하면 미래에 총 얼마의 보상을 받을까를 예측하...
DeBERTa Enhanced BERT with Disentabled Attention 리뷰
Background 기존 self attention을 활용한 Language model들은 위치 정보를 주입하기 위해서 input의 word embedding에 positional embedding을 더했다. 이를 통해 각 input의 단어는 위치 정보와 내용 정보를 바탕으로 한 ...
ELECTRA Pre-training text encoers as discriminators rather than generators 리뷰
Background SOTA인 representation 학습 방법은 learning denoising autoencoders이다. BERT에서 사용된 방법으로 15%의 unlabeled input sequence를 [MASK] token으로 처리하고 나서 neural netw...
RoFormer Enhanced Transformer With Rotary Position Embedding 리뷰
Background Self Attention은 position 정보를 word embedding에 결합하여 query, key, value의 representation을 얻는다. [q_m = f_q(X_m, m)] [k_n = f_k(X_n, n)] [v_n = f_v(v...
Multi-Task Deep Neural Networks for Natural Language Understanding 리뷰
Background Text의 vector representation을 학습하는 것은 NLU task에 매우 중요하다. Text의 representation을 학습하는데 주로 사용되는 두 방법은 Multi-task learning과 pretraining이다. Multi-t...
MASS Masked Sequence to Sequence Pre-training for Language Generation 리뷰
Background Causal language modeling이나 BERT 기반 language modeling은 conditional language generation task에 적합하지 않다. 이런 task에 효과적이기 위해서는 sequence to sequence lea...
XLNet Generalized Autoregressive Pretraining for Language Understanding 리뷰
Background 지금까지의 Language modeling 방법은 두 가지로 나뉜다. Auto-regressive Language modeling : maximizing the likelihood under forward factorization \(max_{\theta...
Transformer-XL Attentive Language Models Beyond a Fixed-Length Context 리뷰
Background 현재 Neural Network를 통해 long term dependency를 고려하는 것은 어렵다. RNN 기반 모델들은 exploding/vanishing gradient 문제가 존재하고 Attention 기반 모델들 (논문에서는 Character level...
Character Level Language Modeling with Deeper Self-Attention 리뷰
Transformer-XL에서 언급되었기에 한번 읽어보았다. Background Character-level language modeling의 주된 어려움은 다음과 같다. Vocabulary 학습 범위가 매우 넓음 Character 간 time dependency가 큼 ...
Orca-Math: Unlocking the potential of SLMs in Grade School Math 리뷰
Background 수학 문제 해결은 Small Language Model (SLM)에게는 어려운 과제로 여겨진다. 최근 연구에 따르면 모델 자체의 성능만으로 GSM8K benchmark (초등학생 수학 문제)에서 80% 이상의 성능을 달성하기 위해서는 최소 34B paramete...
ReAct: Synergizing Reasoning and Acting in Language Models 리뷰
추론 과정과 행동을 결합하여 LLM이 다양한 문제 상황에 대해서 의사결정과 추론을 하도록 하는 방법론에 대한 연구이다. 연구 배경 인간은 과제를 해결하고자 행동과 언어적 추론을 결합하여 스스로 통제하고, 계획을 세우고, 기억을 유지한다. 이런 결합이 새로운 task를 빠르게 배우...
SKKU
Chatper 4 Network Layer 정리
Network Layer
Chatper 3 Transport Layer 정리 이어서
User Datagram Protocol
기학원 Week 9 Decision Tree 정리
Decision Tree
15: Beyond Physical Memory: Policies
Beyond Physical Memory: Policies
14: Beyond Physical Memory: Mechanisms
Beyond Physical Memory: Mechanisms
13: Paging Faster Translations (TLB)
Paging: Smaller Tables
12: Paging Faster Translations (TLB)
Paging : Faster Translations (TLB)
11: Paging Introduction
Paging
10: Free Space Management
Free Space Management
9: Segmentation
Segmentation
8: Address Translation
Memory Virtualization에 필요한 mechanism: Address Translation
7: Memory API
Memory API
6: Address Spaces
Address Spaces
5: Multiprocessor Scheduler
Multiprocessor Scheduling
4: Propotional Share Scheduler
Propotional Share Scheduler
3: CPU Virtualization Scheduling
Scheduling
2: CPU Virtualization Limited Direct Execution
Mechanism for Time Sharing
1: CPU Virtualization Introduction
CPU Virtualization: Introduction
Chatper 3 Transport Layer 정리
Transport Layer
기학원 Week 6 Naive Bayesian 정리
Prabability RECAP
Chatper 2 Socket Interface Programming 정리
Socket Interface Programming
기학원 Week 5 Regularization 정리
Regularization
기학원 Week 5 Model Evaluation and Selection 정리
Model Evaluation and Selection
Chatper 1 Introduction 정리
Introduction
Chatper 2 Application Layer 정리
Application Layer
기학원 Week 4 Overfitting and Regularization 정리
Overfitting and Generalization
기학원 Week 3 Logistic Regression 정리
Linear Classifier 리뷰
기학원 Week 2 Regression 정리
Regression
기학원 Week 1 KNN 정리
K-Nearest Neighbors
Robotics
VLA-Touch: Enhancing Vision-Language-Action Models with Dual-Level Tactile Feedback 리뷰
본 논문은 contact rich manipulation을 돕기 위한 tactile feedback은 두 영역에서 활용될 수 있다고 주장한다. 첫 번째는 planning 단계이다. 이 단계에서 tactile 정보를 사용하면 object의 surface와 같은 특징 정보에 대해 추론...
Hi Robot: Open-Ended Instruction Following with Hierarchical Vision-Language-Action Models 리뷰
Background
그래프 탐색
BOJ 5427 불
문제
BOJ 3109 빵집
문제
BOJ 2636 치즈
문제
BOJ 1068 트리
문제
BOJ 7569 토마토
문제
BOJ 2638 치즈
접근 방법
BOJ 1167 트리의 지름
접근 방법 인터넷 검색을 하니까 트리의 지름은 특이한 성질은 가진다고 한다. 임의의 점에서 제일 멀리 있는 노드는 무조건 트리 지름을 구성하는 끝 점 중 하나라고 한다. 따라서 dijkstra를 한번 하여 한 끝점을 구하고 그 끝점에서 dijkstra를 또 해서 지름을 구하였다.
다이나믹 프로그래밍
Back to Top ↑너비 우선 탐색
Back to Top ↑최단 경로
Back to Top ↑구현
Back to Top ↑그리디 알고리즘
Back to Top ↑깊이 우선 탐색
BOJ 3109 빵집
문제
BOJ 1068 트리
문제
BOJ 2638 치즈
접근 방법
BOJ 1167 트리의 지름
접근 방법 인터넷 검색을 하니까 트리의 지름은 특이한 성질은 가진다고 한다. 임의의 점에서 제일 멀리 있는 노드는 무조건 트리 지름을 구성하는 끝 점 중 하나라고 한다. 따라서 dijkstra를 한번 하여 한 끝점을 구하고 그 끝점에서 dijkstra를 또 해서 지름을 구하였다.
격자 그래프
Back to Top ↑정렬
BOJ 1092 배
문제
BOJ 2217 로프
문제
자료 구조
Back to Top ↑데이크스트라
BOJ 1719 택배
문제
수학
Back to Top ↑시뮬레이션
Back to Top ↑방향 비순환 그래프
Back to Top ↑위상 정렬
Back to Top ↑트리
BOJ 1068 트리
문제
BOJ 1167 트리의 지름
접근 방법 인터넷 검색을 하니까 트리의 지름은 특이한 성질은 가진다고 한다. 임의의 점에서 제일 멀리 있는 노드는 무조건 트리 지름을 구성하는 끝 점 중 하나라고 한다. 따라서 dijkstra를 한번 하여 한 끝점을 구하고 그 끝점에서 dijkstra를 또 해서 지름을 구하였다.
머신러닝
Generalized Linear Model
Generalized Linear Models (GLM)
Logistic Regression
Classification and Logistic Regression
Linear Regression
Supervised Learning: Linear Regression
이분 탐색
Back to Top ↑두 포인터
Back to Top ↑최소 스패닝 트리
Back to Top ↑백트래킹
Back to Top ↑배낭 문제
BOJ 1106 호텔
문제
매개 변수 탐색
재귀
BOJ 1074 Z
문제
누적 합
Back to Top ↑스택
BOJ 2493 탑
문제
문자열
BOJ 9251 LCS
문제
BOJ 5430 AC
문제
우선순위 큐
BOJ 1766 문제집
문제
분리집합
BOJ 1043 거짓말
문제
거듭제곱
BOJ 1629 곱셈
문제
분할정복
BOJ 1629 곱셈
문제
시물레이션
Back to Top ↑트리의 지름
BOJ 1167 트리의 지름
접근 방법 인터넷 검색을 하니까 트리의 지름은 특이한 성질은 가진다고 한다. 임의의 점에서 제일 멀리 있는 노드는 무조건 트리 지름을 구성하는 끝 점 중 하나라고 한다. 따라서 dijkstra를 한번 하여 한 끝점을 구하고 그 끝점에서 dijkstra를 또 해서 지름을 구하였다.
분할 정복을 이용한 거듭제곱
Back to Top ↑벨만–포드
BOJ 1865 웜홀
문제
분할 정복
BOJ 1074 Z
문제
슬라이딩 윈도우
Back to Top ↑플로이드-워셜
Back to Top ↑파싱
BOJ 5430 AC
문제
덱
BOJ 5430 AC
문제
최장 공통 부분 수열 문제
BOJ 9251 LCS
문제
0-1 너비 우선 탐색
Back to Top ↑강화학습
Proximal Policy Optimization Algorithms 리뷰
Background Neural networks으로 강화학습을 하는 방법으로는 Q-learning과 Vanilla Policy Gradient가 있다. Q-Learning Q-learning은 현재 state s에서 action a를 하면 미래에 총 얼마의 보상을 받을까를 예측하...
조합론
Back to Top ↑많은 조건 분기
Back to Top ↑최대 부분 배열 문제
BOJ 1912 연속합
문제
분리 집합
Back to Top ↑플로이드–워셜
BOJ 1719 택배
문제