Accéder au contenu principal

Génération de requêtes SQL depuis une feuille Excel

Dans ce billet, je vais présenter un petit utilitaire que j'ai développé et qui m'a permis de gagner beaucoup de temps dans les phases de migration de bases de données. Il permet également de définir tout le référentiel d'une base de données, avec notamment les données qui ne sont pas souvent modifiées, dans une feuille Excel et de générer les requêtes SQL d'insertion ou de mise à jour équivalente. Je me suis appuyé pour cela sur deux librairies :
 Le code source tient en une seule classe.

 package com.alu.convert;  
   
 import java.io.File;  
 import java.io.IOException;  
   
 import biz.source_code.miniTemplator.MiniTemplator;  
   
 import jxl.Sheet;  
 import jxl.Workbook;  
   
 /*  
  * This class is used to generate a file based on an Excel Sheet.  
  * The initial purpose is to generate SQL inserts, but this can be applied to  
  * other type of files (SQL updates, Web pages, etc).  
  */  
   
 public class ExcelToSQL {  
      /**  
       * Input file to process (Excel sheet)  
       */  
      String _inputFile;  
        
      /**  
       * Initialize the Class with the input file to process  
       * @param inputFile  
       */  
      public ExcelToSQL(String inputFile) {  
           _inputFile = inputFile;  
      }  
        
   /**  
    * Start processing the Excel file  
    * Each Sheet will generate a separate File   
    */  
   private void generateWorkbook() {  
     try {  
       Workbook w = Workbook.getWorkbook(new File(_inputFile));  
       for (int i = 0; i < w.getNumberOfSheets(); i++) {  
         Sheet s = w.getSheet(i);  
         generateSQLCommands(i, s);  
       }  
   
       w.close();  
     } catch (Throwable t) {  
       System.out.println(t.toString());  
       t.printStackTrace();  
     }  
   }  
   
   /**  
    * Generate the Blocks for a sheet  
    * @param id - Identifer of the output file (1-Entity)  
    * @param sheet - Sheet to process  
    * @throws IOException  
    */  
   private void generateSQLCommands(int id, Sheet sheet) throws IOException {  
     String objectName = sheet.getName();  
           MiniTemplator t;  
           t = new MiniTemplator("templates/" + objectName + ".tpl");  
       
           try {  
          for (int i = 1; i < sheet.getRows(); i++) {  
            for (int j = 0; (j < sheet.getColumns()); j++) {  
                 String parameterName = sheet.getCell(j, 0).getContents();  
              String value = sheet.getCell(j, i).getContents();  
              t.setVariableOpt(parameterName.toUpperCase(), value);  
            }  
            t.addBlock("dataInput");  
          }  
          t.generateOutput("output/" + id + "-" + objectName + ".sql");  
           } catch (Exception e) {  
       System.out.println(objectName + " - " + e.toString());  
       e.printStackTrace();  
           }  
   }  
     
   /**  
    * Displays the acceptable command line arguments  
    */  
   private static void displayHelp() {  
     System.err.println("Command format: excel2sql ");  
     System.err.println("         excel2sql inputfile outputfile");  
     System.err.println("         excel2sql -v|-version");  
     System.err.println("         excel2sql -h|-help");  
   }  
     
   /**  
    * The main method. Gets the worksheet and then uses the API   
    * to process an Excel sheet  
    * @param args the command line arguments  
    */  
   public static void main(String[] args) {  
     if (args.length == 0) {  
       displayHelp();  
       System.exit(1);  
     }  
   
     if (args[0].equals("-help") || args[0].equals("-h")) {  
       displayHelp();  
       System.exit(1);  
     }  
   
     if (args[0].equals("-version") || args[0].equals("-v")) {  
       System.out.println("v" + Workbook.getVersion());  
       System.exit(0);  
     }  
       
     if (args.length >= 1) {  
       ExcelToSQL excel = new ExcelToSQL(args[0]);  
       excel.generateWorkbook();  
       System.exit(0);  
     }  
   }  
 }  
   

La feuille Excel doit contenir au moins un workbook (onglet). Le nom de l'onglet est utilisé pour faire référence au nom du modèle (template) correspondant dans le répertoire "template". Les noms des entêtes du WorkBook sont utilisés comme des champs dans le modèle. La l'exemple ci-dessous, le nom de l'onglet est "price". Nous allons donc chercher un modèle avec le nom "price.tpl".


Le modèle utilise le format défini dans minitemplator et utilise les noms des colonnes comme noms de champs. Le contenu du fichier "price.tpl" est le suivant :

 drop table prices;  
 <!-- $BeginBlock dataInput -->insert into Prices(Name, Prefix, Buy, Sell) values ('${NAME}', '${PREFIX}', ${BUY}, ${SELL});  
 <!-- $EndBlock dataInput -->  

Les balises <!--$BeginBlock dataInput --> et  <!--$BeginBlock dataInput --> définissent un bloc répétitif.
Les propriétés correspondant aux noms des colonnes sont définies par ${NAME}, ${PREFIX}, ${BUY} et ${SELL}.

Le résultat de l'application du modèle sur le fichier Excel est le suivant :

 drop table prices;  
 insert into Prices(Name, Prefix, Buy, Sell) values ('Afghanistan - Mobile Roshan ', '9379', 0,143, 0,162);  
 insert into Prices(Name, Prefix, Buy, Sell) values ('Afghanistan - Mobile WASEL ', '937500', 0,138, 0,156);  
 insert into Prices(Name, Prefix, Buy, Sell) values ('Afghanistan - Mobile WASEL ', '937501', 0,138, 0,156);  
 insert into Prices(Name, Prefix, Buy, Sell) values ('Afghanistan - Mobile WASEL ', '937502', 0,138, 0,156);  
 insert into Prices(Name, Prefix, Buy, Sell) values ('Afghanistan - Mobile WASEL ', '937503', 0,138, 0,156);  
 insert into Prices(Name, Prefix, Buy, Sell) values ('Afghanistan - Mobile WASEL ', '937504', 0,138, 0,156);  
   

J'ai utilisé ces 2 librairies en raison de leur taille relativement faible. Ces deux librairies peuvent aisément être remplacées par Apache POI pour la lecture de feuilles Excel et par MVel pour le remplacement de modèles.

L'ensemble du projet est disponible ici.
A apprécier sans modération.


Commentaires

Posts les plus consultés de ce blog

Utilisez votre tablette Android comme second écran pour Linux (Raspberry Pi, MK908II)

Les tablettes Android atteignent désormais des prix qui défient toute concurrence. On trouve désormais des modèles à 39 € TTC en super marché, soit à peine plus cher que le Raspberry PI, mais avec un écran. Ces modèles souvent mono-core 1Ghz ou 1,4 Ghz avec 512 ou 1Go de mémoire ne sont très probablement pas utilisables pour une utilisation régulière sur Internet et ne sont en aucun point comparables à leur équivalent de marque (Samsung, Sony, LG, HTC, Lenovo, etc). Plusieurs tutoriels indiquent comment connecter utiliser une tablette Android comme second écran ( http://www.linux-magazine.com/Online/Blogs/Productivity-Sauce/Use-an-Android-Device-as-Screen-and-Input-for-Raspberry-Pi ). Ces méthodes utilisent généralement l'USB Tethering qui n'est malheureusement disponible que sur les téléphones ou tablettes avec un accès mobile (3G ou 4G) inclus. Dans ce billet, je vais vous montrer comment se connecter à une tablette en utilisant le mode Debug adb (Android Debug Bridge...

Ardublock ou S4A pour développer graphiquement

Si vous n'aimez pas le développement en C, ou C# sur les micro-contrôleurs, vous pouvez vous essayer au développement graphique avec Ardublock. Historique Cet environnement de développement est issu d' OpenBlocks développé par le MIT qui se positionne lui même dans la suite du langage Logo de Seymour Papert . Le langage Logo est un langage issu de l'Intelligence Artificielle dans les années 1970 dont l'objectif était de faciliter l'apprentissage de la programmation à de jeunes enfants par le biais du pilotage d'une tortue munie d'un crayon. Les ordres étaient relativement simples : avance de 90 cm, tourne à droite de 90°, etc. Ceci, permettait de réaliser des dessins assez simple, de piloter un petit robot et d'apprendre la programmation. C'était cependant un langage textuel. Exemple pour tracer un carré : POUR CARRE REPETE 4 [AV 100 TD 90] FIN   Son digne successeur, le langage Scratch désormais intégré à l'image Raspbian du Raspberry Pi...

Hack du RoboSapien en Infra-Rouge

Mon fils a eu un RoboSapien V1 il y a une dizaine d'années. Il prenait la poussière sur le haut d'une armoire, jusqu'à ce que j'ai envie de le ramener à la vie. Il était temps, les piles étaient en train de commencer à couler et vu le nombre de servo moteurs qu'il contient, ses jours étaient comptés. Mais non, j'ai réussi à contenir mon irrésistible envie de tout démonter et j'ai décidé de passer par la télécommande Infrarouge pour le piloter. Le protocole est assez similaire de celui d'une télécommande infrarouge classique avec cependant quelques petites différences. Il est correctement expliqué sur les sites http://www.aibohack.com/robosap/ir_codes.htm et http://www.markcra.com/robot/ir_codes.php . Je vais traduire en français pour ceux qui auraient un peu de difficulté. Il existe des librairies Arduino, mais comme d'habitude, pas toujours de librairie en C#. Voici les choses importantes à connaitre sur le protocole : Le protocole envoie...