API 속도 제한 처리

API를 요청할 때는 특정 시간 프레임 내에서 수행할 수 있는 호출 수를 제한하는 속도 제한이 발생하는 것이 일반적입니다. GitHub Copilot Chat은 속도 제한 응답을 검색하고 지연 후 자동으로 요청을 다시 시도하는 코드를 제안하여 이러한 제한을 처리하는 데 도움이 될 수 있습니다.

예제 시나리오

다음 Python 코드는 외부 API에서 날씨 데이터를 가져옵니다. API에 속도 제한이 있는 경우 제한이 초과되면 요청이 실패할 수 있으며, 앱은 재시도 논리를 구현하여 이러한 응답을 정상적으로 처리하는 방법이 필요할 수 있습니다.

from flask import Flask, request
import requests

app = Flask(__name__)

WEATHER_API_URL = "https://api.example.com/weather"

@app.route('/get_weather', methods=['GET'])
def get_weather():
    city = request.args.get('city')
    # Simulate an API request to the external weather service
    response = requests.get(WEATHER_API_URL, params={"city": city})
    weather_data = response.json() 

    return weather_data

예시 프롬프트

How can I handle API rate limits within get_weather().

예제 응답

Copilot는 재시도 빈도를 제한하기 위해 지수 백오프를 사용하여 재시도 메커니즘을 구현하는 코드를 제안할 수 있습니다.

예시:

import requests
from flask import Flask, request
from requests.adapters import HTTPAdapter
from requests.packages.urllib3.util.retry import Retry

app = Flask(__name__)

WEATHER_API_URL = "https://api.example.com/weather"

def requests_retry_session(
    retries=3,
    backoff_factor=0.3,
    status_forcelist=(500, 502, 504),
    session=None,
):
    session = session or requests.Session()
    retry = Retry(
        total=retries,
        read=retries,
        connect=retries,
        backoff_factor=backoff_factor,
        status_forcelist=status_forcelist,
    )
    adapter = HTTPAdapter(max_retries=retry)
    session.mount("http://", adapter)
    session.mount("https://", adapter)
    return session

@app.route('/get_weather', methods=['GET'])
def get_weather():
    city = request.args.get('city')
    try:
        response = requests_retry_session().get(WEATHER_API_URL, params={"city": city})
        response.raise_for_status()
        weather_data = response.json()
    except requests.exceptions.RequestException as e:
        return {"error": str(e)}, 500

    return weather_data

이 예제에서 Copilot의 제안에는 특정 상태 코드(500, 502, 504)로 인해 실패할 경우 코드가 요청을 자동으로 다시 시도할 수 있도록 하는 재시도 세션 설정이 포함됩니다. backoff_factor는 재시도 사이의 지연이 점차 증가하여 API의 속도 제한을 더 이상 초과하지 않도록 방지할 수 있습니다.

추가 참고 자료

• "GitHub Copilot의 프롬프트 엔지니어링"
• "GitHub Copilot 사용 모범 사례"