Leveraging machine learning and feature engineering for optimal data-driven scaling decision in serverless computing
Pourquoi ce travail est dans la base
Une base qui oublie comment elle a trouvé un travail ne peut pas être vérifiée. Voici les voies qui ont admis celui-ci.
Notice bibliographique
Résumé
Serverless computing offers scalability and cost-efficiency, but balancing performance and cost remains challenging, particularly in scaling decisions that can lead to cold starts or resource misallocation. This research is motivated by the need to minimize the impact of cold starts and optimize resource utilization in serverless applications by developing intelligent, data-driven scaling decisions. We delve into using machine learning and feature engineering to model and simulate predictions for optimal scaling decisions for Azure Function Apps (AFA). Our focus lies in predicting the ideal timing for provisioning or de-provisioning the Function App’s environment. Using historical invocation data, we applied a sliding window to transform the time-series data into patterns categorized as load or unload classes, considering various target periods. To identify the most effective model, we compared the performance of various baseline models with and without calibration (isotonic and sigmoid) to enhance precision. In addition, we assess multiple feature extraction methods in invocation patterns and explore the use of Principal Component Analysis (PCA) for dimensionality reduction to reduce computation costs. Using the best-identified configurations, we model and simulate the class patterns over time to compare the actual classes with the predicted ones, focusing on memory usage and the costs associated with cold starts. The proposed model is thoroughly evaluated using various metrics under different setups, revealing notable improvements in scaling decisions achieved by applying calibration and feature engineering methods. These findings demonstrate the potential of machine learning for intelligent, data-driven scaling decisions in serverless computing, offering valuable insights for cloud providers to optimize resource allocation and for developers to build more efficient and responsive serverless applications. Specifically, the proposed method can be integrated into serverless platforms to automatically adjust resource provisioning based on predicted workload demands, reducing cold start latency and improving cost-effectiveness.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,002 | 0,001 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,000 | 0,000 |
| Bibliométrie | 0,000 | 0,000 |
| Études des sciences et des technologies | 0,000 | 0,000 |
| Communication savante | 0,000 | 0,002 |
| Science ouverte | 0,000 | 0,001 |
| Intégrité de la recherche | 0,000 | 0,000 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,000 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle