¿Cómo puedo decirle a la función calendario que muestre un mensaje de advertencia cuando el usuario elige una fecha pasada?  

Para ello vaya a su elemento calendario y cree una nueva validación personalizada, insertando el siguiente código en el área d etexto del script:

function ff_NOMBREDELCALENDARIO_validation(element, message)
{
     if(element.value.split("-").length != 3){return message == ''? element.name+" faild in my test.n" : message}
     var vDate = new Date(Number(element.value.split("-")[1])-1, element.value.split("-")[2], element.value.split("-")[0],0,0,0,0).getTime();
     var today = new Date();
     today.setHours(0);
     today.setMinutes(0);
     today.setSeconds(0);
     today.setMilliseconds(0);
     today = today.getTime();
     
     if(vDate < today)
     {
          if (message=='') message = element.name+" faild in my test.n";
          return message;
     }
     return '';
}

Este ejemplo es para el calendario js con el patrón de fecha por defecto (MM-DD-YYYY), por lo que el js anterior debería ser ligeramente distinto para otros patrones, como por ejemplo el español.

Tenga también en cuenta: NOMBREDELCALENDARIO tiene que reemplazarse por el nombre de su elemento calendario. Esto se realiza automáticamente haciendo clic en "Crear marco de referencia".