Use Docker images
docker run --gpus all \
--shm-size 32g \
-p 30000:30000 \
-v ~/.cache/huggingface:/root/.cache/huggingface \
--env "HF_TOKEN=<secret>" \
--ipc=host \
lmsysorg/sglang:latest \
python3 -m sglang.launch_server \
--model-path "CamiloVega/Llama-Jobs-Tips" \
--host 0.0.0.0 \
--port 30000# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
-H "Content-Type: application/json" \
--data '{
"model": "CamiloVega/Llama-Jobs-Tips",
"prompt": "Once upon a time,",
"max_tokens": 512,
"temperature": 0.5
}'Model Card
Model Details
- Model Name: llama-fine-tune
- Language: Spanish
- Training Type: Fine-tuning
- Base Model: NousResearch/Llama-2-7b-chat-hf
- Model Description: Un modelo de Llama de 2.7 mil millones de parámetros ajustado (fine-tuned) en un conjunto de datos de preguntas y respuestas sobre consejos de carrera profesional.
Intended Use
- Task(s): Generación de texto, respuesta a preguntas sobre consejos de carrera
- Intended Use: Proporcionar respuestas detalladas a preguntas relacionadas con consejos de carrera profesional.
- Limitations: El modelo está capacitado en un conjunto de datos específico de consejos de carrera, por lo que su conocimiento puede estar limitado a ese dominio. No se recomienda para tareas generales.
Training Data
- Data Source: Conjunto de datos sintético generado con GPT-3 a partir de un prompt de preguntas y respuestas sobre consejos de carrera.
- Training Examples: 100 ejemplos en formato
<s>[INST] <pregunta> [/INST] <respuesta> </s>
Training Procedure
- Fine-tuning Approach: Entrenamiento con PEFT (Parameter-Efficient Fine-Tuning) utilizando LoRA (Low-Rank Adaptation) con un rango de 64.
- Hiperparámetros:
- Épocas: 1
- Tamaño de lote: 4
- Tasa de aprendizaje: 2e-4
- Dropout LoRA: 0.1
- Optimizador: Paged AdamW 32-bit
- Hardware: GPU
Evaluation
- Evaluation Set: 20% de los datos se reservaron para pruebas
- Ejemplo de entrada:
<s>[INST] ¿Cómo puedo mejorar mis habilidades de entrevista laboral? [/INST] - Ejemplo de salida: `Aquí hay algunos consejos para mejorar tus habilidades de entrevista:
Prepárate estudiando la empresa y el puesto. Investiga la misión, valores y cultura corporativa. Identifica cómo tus habilidades se alinean con los requisitos del trabajo.
Practica respondiendo preguntas comunes de entrevista en voz alta. Grábate y revisa tu lenguaje corporal, tono de voz y respuestas. Pide retroalimentación a amigos.
Elabora buenas preguntas que muestren tu interés genuino en el puesto y la empresa. Evita preguntas sobre salario y beneficios al inicio.
Vístete apropiadamente con ropa profesional y cómoda. Tu aspecto debe ser pulcro.
Llega temprano y sé amable con todos. La primera impresión es clave.
Durante la entrevista, mantén contacto visual, habla con claridad y confianza. Sé honesto sobre tus fortalezas y debilidades.
Al final, cierra enfatizando tu interés y agradeciendo la oportunidad. Envía un correo o nota de agradecimiento después.
La preparación, práctica y una actitud positiva pueden ayudarte a destacar en las entrevistas laborales. `
Ethics
Este modelo solo debe usarse de acuerdo con los principios éticos de Anthropic, incluyendo ser beneficioso para la humanidad y respetar los derechos humanos. No debe ser utilizado para difundir desinformación, incitación al odio u otros fines dañinos.
- Downloads last month
- 10
Install from pip and serve model
# Install SGLang from pip: pip install sglang# Start the SGLang server: python3 -m sglang.launch_server \ --model-path "CamiloVega/Llama-Jobs-Tips" \ --host 0.0.0.0 \ --port 30000# Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "CamiloVega/Llama-Jobs-Tips", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'