동기 & 비동기, 블로킹 & 논블로킹

[JoisFe]

• 동기와 비동기, 블로킹과 논블로킹의 차이에 대해 설명해 주세요.
  • 그렇다면, 동기이면서 논블로킹이고, 비동기이면서 블로킹인 경우는 의미가 있다고 할 수 있나요?
  • I/O 멀티플렉싱에 대해 설명해 주세요.
  • 논블로킹 I/O를 수행한다고 하면, 그 결과를 어떻게 수신할 수 있나요?

[JoisFe]

동기 (Synchronous)

Syn : together, with (함께, 같이)
chrono : time(시간)

• 작업이 같이 시작하고, 같이 종료됩니다.
• 호출된 함수를 호출한 함수가 상태 체크를 합니다.
• 즉, 호출한 함수는 호출된 함수 작업 (요청한 작업)에 완료 여부를 따집니다.

장점

• 작업이 순서대로 처리되기에 동시성 문제를 걱정할 필요가 없음
• 순차적으로 진행되어야 하는상황에서는 동기적으로 작업해야함
• 디버깅, 유지보수가 쉬움

단점

• 성능 이슈
  • 하나의 작업이 끝날때 까지 대기해야 하므로 실행 시간이 길어짐
  • 특정 작업이 오래걸릴 경우 전체 프로세스가 늘려짐 -> 응답 지연
  • CPU 등의 리소스가 놀게 되어 자원을 낭비할 수 있음
  • 디버깅이 복잡합

비동기 (Asynchronous)

• 각 작업의 시작과 종료가 다릅니다.
• 호출된 함수의 상태를 호출된 함수 혼자 스스로 직접 신경쓰면서 처리합니다.
  • 호출된 함수는 작업이 완료되면 호출한 함수에게 Callback을 전달하여 상태를 전달합니다.
  • Callback이 오기 전 까지 호출한 함수는 신경 쓰지 않고 자신의 작업을 진행하면 됩니다.
• 즉, 호출한 함수는 호출된 함수 작업 (요청한 작업)에 완료 여부를 따지지 않습니다.

장점

• 성능을 올릴 수 있음
  • 작업을 기다리지 않고 독립적으로 처리되기 때문에 실행속도가 빠릅니다.

- 특정 작업이 오래걸려도 다른 요청을 처리할 수 있어 응답성이 향상 됩니다. - CPU 등 다른 리소스들을 최대한 활용하여 리소스 낭비를 줄일 수 있습니다.

Blocking

• 다른 요청의 작업을 처리하기 위해 현재 작업을 block(차단) 함
• 호출한 함수가 호출된 함수 에게 제어권을 넘겨줍니다.
  • 호출된 함수가 끝날때 까지 호출한 함수는 기다려야합니다.
  • 호출된 함수가 자신의 작업이 끝나야만 다시 제어권을 넘겨주기 때문입니다.

장단점

• Synchronous와 같음 (개념은 다르지만 유사한 영향을 미치기에)

Non-Blocking

• 다른 요청의 작업을 처리하기 위해 현재 작업을 block(차단) 하지 않음
• 호출된 함수는 호출한 함수와 별개의 제어권을 얻습니다. (호출된 함수가 제어권을 바로 가져온다 라고 봐도 되는 것 같습니다.)
  • 호출된 함수가 끝나지 않아도 호출한 함수는 원래의 제어권을 가지고, 자신의 작업을 진행할 수 있습니다. (호출된 함수는 별도의 제어권으로 작업을 진행)

장단점

• Asynchronous와 같음 (개념은 다르지만 유사한 영향을 미치기에)

Synchronous == Blocking, Asynchronous == Non-Blocking ??

==> X 관점이 다름

Synchronous vs Asynchronous

-(시간) 작업 시간을 함께 맞춰서 실행 하는지?

Blocking vs Non-Blocking

• (제어권) 제어권이 누구에게 있는지 ?

Q) 동기이면서 논블로킹이고, 비동기이면서 블로킹인 경우는 의미가 있다고 할 수 있나요?

• 위 이미지는 Synchronous/Asynchronous 와 Blocking/Non-Blocking 의 모든 조합 입니다.

1. Synchronous & Blocking
   
   

2. Synchronous & Non-Blokcing
   

• Synchronous : 호출한 함수는 호출된 함수 작업 (요청한 작업)에 완료 여부를 따져야 합니다.
• Non-Blocking : 호출된 함수가 호출한 함수에게 바로 제어권을 주기 때문에 (자신만의 제어권을 가짐) 호출한 함수는 다른 작업 수행 가능

==> 호출한 함수는 특정 함수를 호출한 후 자신의 다른 작업을 진행해도 됩니다. 다만 언제 종료될 지 모르는 호출된 함수의 결과를 호출한 함수가 처리해야 하는 상황이 생깁니다.

• 결국 호출한 함수가 직접 결과를 처리해야되므로 호출 된 함수가 언제 종료되는 지 알기 위해 계속 확인을 해야함 (호출된 함수에게 요청)

• 비효율적

• EX)

  • Polling
  • I/O 멀티플렉싱 select 시스템 호출)

3. Asynchronous & Blokcing
   

• Asynchronous : 호출한 함수는 호출된 함수 작업 (요청한 작업)에 완료 여부를 따지지 않아도 됩니다. (call back 을 통해 상태만 전달)
• Blocking : 호출된 함수가 호출한 함수에게 제어권을 넘겨주기지 않기 때문에 호출한 함수는 호출된 함수가 제어권을 돌려줄 때 까지 아무 작업을 못함

==> 호출한 함수가 호출된 함수로 부터 call back을 받을때 까지 아무 작업을 못함

• 호출된 함수의 완료여부를 따질 필요는 없지만 제어권이 없는 매우 비효울적인 상황

• EX) Future.get()

  • 비동기 작업을 트리거한 후 결과를 가져오기 위해 Future.get()을 호출하면, 해당 호출은 결과가 준비될 때까지 blocking됩니다.

4. Asynchronous & Non-Blokcing
   
   

Q) I/O 멀테플렉싱에 대해 설명해주세요

I/O Multiplexing (멀티플렉싱 = 다중화)

• 하나의 통신 채널을 통해서 둘 이상의 data(signal)을 전송하는데 사용되는 기술입니다.
• OS에서는 한 process가 여러 file을 관리하는 기법
  • --> 하나의 채널로 여러 file descriptor 를 관리하는 기법
  • processd에서 특정 파일에 접근할 때 FD(File Descriptor) 라고 하는 추상적인 값을 사용
  • select, poll, epoll, kkqueue, iocp 등 다양한 기법
• 웹 (server-client환경) 에서는 하나의 프로세스가 다수의 client에게 서비스를 할 수 있도록 하는 것
  • 하나의 프로세스가 여러 개의 socket을 컨트롤 할 수 있어야 함

select 멀티플렉싱

• FD(File Descriptor)를 배열에 저장해놓고 동시에 관찰
• 하나의 process가 여러개의 FD를 감시하여 이들 중 발생하는 이벤트 처리

epoll 멀티플렉싱

• epoll 인스턴스 생성하여 FD를 등록하여 감시할 대상을 지정합니다.
• 감시 대상에서 이벤트 발생시 처리하는 기술입니다.

Q) 논블로킹 I/O를 수행한다고 하면, 그 결과를 어떻게 수신할 수 있나요?

• 논 블로킹 경우 I/O 작업을 요청한 후 요청한 작업이 완료되었는지 기다리지 않고 제어권을 빠르게 가져옵니다.
• 이후 결과를 확인하려면 상태를 체크 or 이벤트가 발생하는 대기 방식으로 결과를 수신할 수 잆습니다.
• 결과적으로 요청이 비동기적으로 반환되기에

1. Polling

• 계속해서 작업 상태 확인 요청하여 확인

2. Call back

• 요청한 I/O 작업이 완료되면 call back 을 통해 작업 완료 되었음을 받음

3. 이벤트 기반 처리

• event loop 와 event driven 통해 요청한 작업이 완료되면 미리 등록한 call back 이나 event handler를 호출
  • 계속 요청해야하는 폴링 방식보다 효율적

참고

1. https://gyoogle.dev/blog/computer-science/network/Blocking,Non-blocking%20&%20Synchronous,Asynchronous.html
2. https://homoefficio.github.io/2017/02/19/Blocking-NonBlocking-Synchronous-Asynchronous/
3. https://inpa.tistory.com/entry/%F0%9F%91%A9%E2%80%8D%F0%9F%92%BB-%EB%8F%99%EA%B8%B0%EB%B9%84%EB%8F%99%EA%B8%B0-%EB%B8%94%EB%A1%9C%ED%82%B9%EB%85%BC%EB%B8%94%EB%A1%9C%ED%82%B9-%EA%B0%9C%EB%85%90-%EC%A0%95%EB%A6%AC
4. https://www.youtube.com/watch?v=ohz7uHnza6A
5. https://velog.io/@wken5577/IO-%EB%A9%80%ED%8B%B0%ED%94%8C%EB%A0%89%EC%8B%B1IO-Multiplexing
6. https://www.earlgrey02.com/post/29
7. https://dbehdrhs.tistory.com/98
8. https://tioon.tistory.com/70

[JoisFe]

RestTemplate vs WebClient

• Boot1 : RestTemplate 사용
• Boot2 : WebClient 사용

==> Concurrent User가 증가할수록 Boot1의 시간이 급격히 증가…

참고

• https://tecoble.techcourse.co.kr/post/2021-07-25-resttemplate-webclient/
• https://jh-7.tistory.com/25

[JoisFe]

콜백 방식

• 작업 요청할 때 콜백 함수를 전달합니다.
• 작업이 끝나면 직접 전달한 콜백 함수가 호출됩니다.
• 직접 호출 방식.

장점

• 간단

단점

• 여러 비동기 작업 순차적으로 콜백 호출시 콜백 중첩 등 코드 복잡

이벤트 기반 방식

• 작업이 끝나면 이벤트를 발생시킵니다.
• 이벤트 리스너가 등록된 경우, 해당 핸들러가 호출됩니다.
• 이벤트 호출 방식.

장점

• 콜백 지옥 방지

단점

• 구조가 복잡

비유

콜백 방식: "일 끝나면 나한테 바로 전화해!"
이벤트 방식: "일 끝나면 '끝났다'고 방송해. 내가 듣고 반응할게!"

[Tokwasp]

❓ 동기와 비동기의 차이(블로킹, 넌블로킹) 를 장단점과 함께 설명해주세요.

[ 동기 / 비동기 ] : 결과와 순서로 바라보는 관점

동기 : 요청, 응답의 순서가 항상 요청 순서와 동일 하게 유지 되는 방식
비동기 : 요청, 응답의 순서가 항상 요청 순서 동일 보장을 할 수 없는 방식

출처 : https://sudo-minz.tistory.com/21

[ 동기 장점 ]

• 설계가 간단하고 직관적이다.

[ 동기 단점 ]

• 결과가 주어질 때까지 대기 해야하는 단점

[ 비동기 장점 ]

• 자원을 효율적으로 사용 할 수 있다.

[ 비동기 단점 ]

• 요청, 응답의 순서를 보장 하지 않고 설계가 복잡하다.

[ blocking / non-blocking ] : 제어권으로 바라보는 관점

• 요청을 보내고 그 자리에 기다려야 하나요?
• [ blocking ] : 요청을 보내면 결과를 그 자리에서 기다립니다. ( 제어권 없음 )
• [ non - blocking ] : 요청을 보내고 다른 일을 해도 됩니다. ( 제어권 있음 )

출처 : https://mark-kim.blog/blocking_nonblocking_&_synchronous_asynchronous/

[ 블로킹 장점 ]

• 설계가 간단하고 직관적이다.

[ 블로킹 단점 ]

• 작업 요청을 보낸후 기다려야 되기 때문에 다른 작업을 수행 할수 없습니다. -> CPU 자원을 효율적 사용X

[ 논블로킹 장점 ]

• 시스템 자원을 효율적으로 처리 가능 하다.

[ 논블로킹 단점 ]

• 작업 결과를 체크 하고 결과를 따로 처리 해주는 로직이 필요하다.

❓ 그렇다면, 동기이면서 논블로킹이고, 비동기이면서 블로킹인 경우는 의미가 있다고 할 수 있나요?

• 논블로킹 동기 방식은 제한적으로 쓰이지만, 비동기 블로킹 방식은 잘 쓰이지 않습니다.

🌱 [ blocking, non-blocking / 동기, 비동기 조합 ]

[ blocking / sync ] : 요청 후 그 자리에서 기다리며 ( blocking ) 결과와 순서에 관심이 있는 방식

[ blocking / async ] : 요청 후 그자리에서 기다리지만 ( blocking } 결과와 순서에 관심이 없는 방식

• 결과에 관심이 없는데 기다리는 것은 비효율적 이므로 잘 사용 하지 않습니다.

[ non-blocking / sync ] : 요청 후 다른 일을 해도 되지만 ( non-blocking ) 결과와 순서에 관심이 있는 방식

[ non-blocking / async ] : 요청 후 다른 일을 해도 되고 ( non-blocking ) 결과와 순서에 관심이 없는 방식

❓ I/O 멀티플렉싱에 대해 설명해 주세요.

• 멀티플렉싱 : 하나의 통신 채널을 통해 둘 이상의 데이터를 전송 하는 기술
• 프로세스는 메모리를 많이 차지 하기 때문에 하나의 프로세스가 다수의 클라이언트에게 서비스를 할 수 있게 하는 것

❓ 논블로킹 I/O를 수행한다고 하면, 그 결과를 어떻게 수신할 수 있나요?

• Polling ( 풀링 ) : 특정 I/O 작업의 상태를 주기적으로 확인 하는 방법
• I/O 멀티플렉싱 : 소켓에 대해 동시에 비동기적으로 I/O 작업을 하고 완료된 작업에 대해 알림을 받을수 있습니다.
• CallBack 메커니즘 : 운영체제와 어플리케이션 간에 비동기 작업의 결과를 알려 주는 방식

[dy102]

Sync & Async

• 동기와 비동기의 차이(블로킹, 넌블로킹) 를 장단점과 함께 설명해주세요.

  블로킹(blocking)

  • 요청자(부모함수)는 요청한 작업이 끝날 때가지 다른 작업을 하지 않고 마냥 기다림
  • 다른 함수를 호출할 때, 제어권도 아예 함께 넘겨주고 그 작업이 끝난 후에야 돌려받기 때문

  장점

  • 예측 가능한 동작
  • 간단한 구현

  단점

  • 성능 저하
  • 병렬 처리 제약

  논블로킹(non-blocking)

  • 요청자는 요청한 작업이 수행되는 동안 다른 작업을 할 수 있음
  • 다른 함수를 호출할 때, 제어권을 넘겨주기는 하지만 바로 돌려받음
  • 제어권을 돌려받은 호출자는 다른 작업을 바로 수행 가능.

  장점

  • 효율적인 자원 사용
  • 높은 처리량

  단점

  • 복잡한 설계

  ---

  동기(Sync)

  함수들이 작업을 동시에 시작하거나, 끝나는 타이밍을 맞추거나, 하나가 끝나고 다른 하나를 차례로 실행하는 것

  요청하는 함수는 요청을 보내놓고 요청을 처리하는 함수들이 작업을 마쳤는지 계속해서 물어본다. 요청자는 완료가 되었다는 응답을 받으면, 그때 다른 함수의 실행을 시작하거나 하는 것이다.

  → 요청 작업이 끝났는지 내가 계속 물어보고 그 시간에 맞춰서 다른 작업을 수행하는 방식.

  장점

  • 단순한 코드
  • 결과 즉시 사용 가능

  단점

  • 비효율적인 자원 사용
    • I/O 작업이나 네트워크 요청 동안 CPU가 대기 상태로 낭비됨
  • 병렬성 제한: 하나의 작업이 끝나야 다음 작업으로 넘어감
  • UI 프리징: UI 애플리케이션에서 동기를 사용할 경우 사용자가 시스템이 멈춘 것처럼 느낄 수 있음

  비동기(Async)

  동기적이지 않은 방식.

  두 함수는 서로가 언제 시작하고, 언제 일을 마치는지 전혀 신경쓰지 않는다. 요청을 받을 함수가 완료되었는지 여부를 알아서 알려준다.

  → 작업을 해달라는 요청만 해놓고 더이상 신경쓰지 않고 있다가, 상대방이 끝나면 끝났다고 말해주는 방식.

  장점

  • 효율적인 자원 사용
    • I/O 작업이나 네트워크 요청 동안 CPU가 유휴 상태로 기다리지 않고 다른 작업을 처리할 수 있음
  • 높은 병렬성
    • 여러 작업을 동시에 처리 가능
  • 사용자 경험 향상
    • UI 애플리케이션에서 응답성을 유지

  단점

  • 복잡한 코드
  • 디버깅 어려움
    • 실행 순서를 추적하기 어려움
  • 추가 오버헤드
    • 비동기 작업을 관리하기 위한 이벤트 루프, 스레드 풀 등의 추가 자원이 필요

  블로킹/논블로킹 = 요청받는 함수가 제어권(함수실행권)을 언제 넘겨주느냐의 차이

  동기/비동기 = 요청받은 함수가 작업을 완료했는지를 누가 체크하느냐의 차이

  블로킹/논블로킹, 동기/비동기 조합

  

  동기 + 블로킹

  요청받은 함수의 작업이 끝나야 제어권을 돌려받음 + 요청자는 결과가 나올 때까지 계속 확인

  public class SyncBlockingExample {
      public static void main(String[] args) {
          System.out.println("작업 시작");
  
          // 동기적이고 블로킹된 호출
          String result = performTask(); // 이 호출은 작업이 끝날 때까지 대기
          System.out.println("결과: " + result);
  
          System.out.println("작업 완료");
      }
  
      private static String performTask() {
          try {
              Thread.sleep(2000); // 작업을 처리하는 동안 블로킹 발생
          } catch (InterruptedException e) {
              Thread.currentThread().interrupt();
          }
          return "완료된 작업 결과";
      }
  }

  동기 + 논블로킹

  제어권은 바로 돌려줌 + 요청자는 결과가 나올때까지 계속 확인

  System.out.println("작업 시작");
  while (!isTaskComplete()) {  // 주기적으로 완료 여부 확인
      System.out.println("작업 진행 중...");
      doOtherWork();  // 다른 작업 수행
  }
  System.out.println("작업 완료");

  비동기 + 블로킹

  요청받은 함수의 작업이 끝나야 제어권 돌려받음 + 결과는 요청받은 함수가 알려줌

  import java.util.concurrent.CompletableFuture;
  
  public class AsyncBlockingExample {
      public static void main(String[] args) {
          System.out.println("작업 시작");
  
          // 비동기 작업 생성
          CompletableFuture<String> future = CompletableFuture.supplyAsync(() -> {
              try {
                  Thread.sleep(2000); // 작업 중 블로킹 발생
              } catch (InterruptedException e) {
                  Thread.currentThread().interrupt();
              }
              return "완료된 작업 결과";
          });
  
          // 결과를 가져오기 위해 기다림 (블로킹)
          try {
              String result = future.get(); // get() 호출로 인해 블로킹 발생
              System.out.println("결과: " + result);
          } catch (Exception e) {
              e.printStackTrace();
          }
  
          System.out.println("작업 완료");
      }
  }

  비동기 + 논블로킹

  제어권은 바로 돌려줌 + 결과는 요청받은 함수가 알아서 알려줌

  import java.util.concurrent.CompletableFuture;
  
  public class AsyncNonBlockingExample {
      public static void main(String[] args) {
          System.out.println("작업 시작");
  
          // 비동기 작업 생성 (논블로킹)
          CompletableFuture.supplyAsync(() -> {
              try {
                  Thread.sleep(2000); // 작업 중 (비동기적으로 실행)
                  System.out.println("비동기 작업 완료");
              } catch (InterruptedException e) {
                  Thread.currentThread().interrupt();
              }
              return "완료된 작업 결과";
          }).thenAccept(result -> {
              // 결과를 비동기적으로 처리
              System.out.println("결과: " + result);
          });
  
          // 호출자는 다른 작업을 계속 진행
          System.out.println("다른 작업 수행 중...");
  
          try {
              Thread.sleep(3000); // 메인 스레드 대기 (결과 확인을 위해)
          } catch (InterruptedException e) {
              Thread.currentThread().interrupt();
          }
  
          System.out.println("메인 작업 종료");
      }
  }

[jay200333]

동기와 비동기의 차이(블로킹, 넌블로킹) 를 장단점과 함께 설명해주세요.

✅ 답변

Synchronous

• Request 이후 Response를 받아야만 다음 동작이 이루어지는 방식이다.
• 어떠한 작업을 처리할 동안에는 다른 작업은 정지한다.
• 실제 CPU가 느려지는 것은 아니다. 그러나, 전체적인 시스템 효율이 저하될 수 있다.

장점 : 설계가 매우 간단하다. 직관적이다.
단점 : 결과가 주어질 때까지 아무것도 못하고 대기해야 한다.

Asynchronous

• Request 이후 Response를 받지 않아도 다음 동작이 이루어지는 방식이다.
• 어떠한 작업을 처리할 동안 다른 작업을 할 수 있다.
• 따라서, 컴퓨터 자원을 효율적으로 사용할 수 있다.
• Request 시 할 일이 끝난 후 처리 결과를 알려주는 콜백 함수(Callback Function)을 함께 사용한다.
• 콜백을 했을 때, 호출받은 함수는 바로 응답(확인)을 수행한다.
• 해당 응답은 처리 결과에 대한 응답이 아닌, Request에 대한 확인 동작일 뿐이다.
• 이는 DOS와 같은 단일 OS에서는 불가능하다. Windows와 같은 Multitask 환경에서만 가능하다.

장점 : 결과가 주어지기 전에도 다른 작업을 할 수 있다. 자원을 효율적으로 사용할 수 있다.
단점 : 동기보다 설계가 복잡하다. 덜 직관적이다.

Blocking : 직접 제어할 수 없는 대상의 작업이 끝날 때까지 기다려야 하는 경우

Non-Blocking : 직접 제어할 수 없는 대상의 작업이 완료되기 전에 제어권을 넘겨주는 경우

---

동기 이면서 논블로킹이고, 비동기이면서 블로킹인 경우는 의미가 있다고 할 수 있나요?

✅ 답변

• 동기 & 논블로킹 : 작업을 순차적으로 진행하지만, 각 작업이 완료되기를 기다리지 않고 바로 다음 작업으로 넘어감 -> 결과는 나중에 확인하거나 상태 체크로 확인함
  ex) 폴링 : 주기적으로 상태를 확인하면서 결과를 기다리지 않고 다음 작업을 수행함

• 비동기 & 블로킹 : 작업을 비동기로 시작하지만, 결과를 기다리는 동안 블로킹 됨. -> 결과를 기다리느라 프로그램이 멈춤

• 매우 비효율적이라 테스트나 특정 상황에서만 사용할 것 같음

---

I/O 멀티플렉싱에 대해 설명해 주세요.

✅ 답변

• 하나의 스레드나 프로세스가 여러 I/O 작업(예: 파일, 네트워크 소켓)을 효율적으로 관리할 수 있도록 하는 기술
• 준비된 작업만 처리하고 준비되지 않은 작업은 대기 상태로 두어 CPU 자원을 효율적으로 사용

작동 원리

1. 여러 I/O 자원을 등록 (파일, 소켓 등)
2. 준비된 I/O 작업이 있는지 감시
3. 준비된 작업이 감지되면, 해당 작업만 처리
4. 준비되지 않은 작업은 대기 상태로 남아, 불필요한 블로킹을 방지