[elektro] Sok-sok adat txt fajlban
fabi
fabilist at gmail.com
Wed Nov 17 09:32:11 CET 2010
Sziasztok!
Gyakorlottabb kollégáktól szeretnék tanácsot kérni!
A következő a feladat:
Van egy adatbázis, a megrendelő egy nagy txt fájlban kapja, mérete kb.
0,5-1GB. (Mezők #-el elválasztva, rekordvég CR+LF, UTF8 kódolás).
Ebből dolgozik a gépem, eddig minden jól ment, szépen beolvasom a
memóriába, rendezem 4 mező szerint és indulhat a termelés.
Mostanában bonyolódik a dolog, két hetente hívogatnak új igényekkel,
pld. hogy most az adatbázisból a "kékeket" kéne kihagyni, de csak akkor
ha 8-nál nagyobb és 20-nál kisebb az ID mező, ha így fejlődnek, jövő
héten már azokat kell előre válogatni, amelyik nevében és ID-jében
együtt páros számú kettes számjegy van és háromnál kevesebb "b" betű.
A példák fiktívek és hülyén hangzanak, de meglepően jól közelítik a
valóságot :)
Eddig jól elvoltam a malloc-quickshort párossal, de úgy tűnik ennek a
korszaknak vége, át kell térni valami korszerűbb megoldásra.
Tetszőleges, "éppen arra járó" PC-n kell futnia a dolognak, telepítés
nélkül bedugják a pendrive-ot, rajta az exe és az adatbázis, tehát egy
telepített adatbázis kezelő nem játszik.
Milyen rendszert érdemes használni, hogy egy felhasználói szinten nem
rosszul képzett, de nem programozó kezelő is elboldoguljon hasonló
feladatokkal. Szerintem például SQL lekérdezéseket néhány minta alapján
meg tudna írni.
A gépeken általában WinXP-SP2, vagy PosReady 2009 fut, nincs swap, írni
csak a pendrive-ra lehet, de min. 2GB memória van).
Gondoltam általános megoldás lenne, hogy használat előtt beimportálja
egy excel-be, rendezgeti, majd export. Kevesebb adattal működött is, de
ekkora adatmennyiséggel egy klikkelés után is 20-30 percet homokórázik
az excel.
Létezik erre a feladatra valami barátságos technológia?
üdv,
fabi
More information about the Elektro
mailing list